1 00:00:02,000 --> 00:00:07,000 2 00:00:02,654 --> 00:00:04,656 [grande fanfarra orquestral jogando] 3 00:00:08,000 --> 00:00:13,000 4 00:00:27,636 --> 00:00:29,681 ♪ ♪ 5 00:00:41,389 --> 00:00:43,217 [pássaros cantando e cantando] 6 00:00:48,657 --> 00:00:50,833 -[borbulhando] -[trinado] 7 00:00:55,055 --> 00:00:57,057 [VCR clicando e zumbindo] 8 00:01:00,582 --> 00:01:02,018 [projetor clicando] 9 00:01:04,847 --> 00:01:09,286 Agora, os computadores atuais são completos idiotas, 10 00:01:09,330 --> 00:01:12,115 mas isso não será verdade em outra geração. 11 00:01:12,159 --> 00:01:14,857 Eles vão começar a pensar, e eventualmente eles irão 12 00:01:14,900 --> 00:01:17,599 completamente fora de controle seus criadores. 13 00:01:17,642 --> 00:01:20,254 Isso é deprimente? Não vejo por que deveria ser. 14 00:01:20,297 --> 00:01:24,823 Eu suspeito que orgânico ou evolução biológica 15 00:01:24,867 --> 00:01:26,303 está prestes a chegar ao fim. 16 00:01:27,739 --> 00:01:29,524 [Daniel ri] 17 00:01:29,567 --> 00:01:30,655 CAROLINA: Você não me quer para ser o narrador. 18 00:01:30,699 --> 00:01:32,353 Eu não tenho uma boa voz. 19 00:01:32,396 --> 00:01:34,006 DANIEL: Você tem uma ótima voz. Apenas faça. 20 00:01:34,050 --> 00:01:36,183 É apenas um-- estamos apenas testando. 21 00:01:36,226 --> 00:01:37,967 CAROLINA: Eu sou pago por essa merda? 22 00:01:38,010 --> 00:01:40,230 DANIEL [rindo]: Bem, veremos o quão bem você se sai. 23 00:01:40,274 --> 00:01:41,579 [Carolina rindo] 24 00:01:41,623 --> 00:01:43,451 -♪ ♪ -[cachorro late] 25 00:01:46,454 --> 00:01:47,890 CAROLINA: Preciso ligar para meus pais. 26 00:01:47,933 --> 00:01:49,065 [o motor dá partida] 27 00:01:49,109 --> 00:01:51,023 Às vezes nos precipitamos nas coisas 28 00:01:51,067 --> 00:01:52,851 sem pensar sobre eles. 29 00:01:52,895 --> 00:01:54,723 DANIEL: Sim, você pode... você quer atirar? Isso é... 30 00:01:54,766 --> 00:01:57,204 CAROLINE: Como quando Daniel e Carolina se casou 31 00:01:57,247 --> 00:02:00,163 151 dias depois de se conhecerem. 32 00:02:00,207 --> 00:02:01,817 Vamos retroceder. 33 00:02:03,079 --> 00:02:04,776 [aplausos] 34 00:02:04,820 --> 00:02:07,170 Você tem pensado comprar um computador doméstico? 35 00:02:07,214 --> 00:02:09,303 CAROLINA: Em 1993, quando Daniel nasceu, 36 00:02:09,346 --> 00:02:12,132 seus pais nem tinham um computador em casa. 37 00:02:12,175 --> 00:02:13,785 Mas ele se lembra quando eles finalmente conseguiram um. 38 00:02:13,829 --> 00:02:15,700 O que um computador é para mim é 39 00:02:15,744 --> 00:02:18,355 o equivalente a uma bicicleta para nossas mentes. 40 00:02:18,399 --> 00:02:20,227 Olá. 41 00:02:20,270 --> 00:02:22,185 CAROLINE: O computador dele ajudou liberar sua criatividade. 42 00:02:22,229 --> 00:02:23,926 Daniel: Rolando. Ir. 43 00:02:23,969 --> 00:02:26,581 CAROLINE: Ele usou o iMac de seu pai para editar vídeos. 44 00:02:26,624 --> 00:02:28,322 Sim! 45 00:02:28,365 --> 00:02:29,932 CAROLINE: E até fazer pequenas animações. 46 00:02:29,975 --> 00:02:31,934 [pneus cantando, batida] 47 00:02:31,977 --> 00:02:35,067 Em 1998, quando Caroline estava uma menininha... 48 00:02:35,111 --> 00:02:36,721 Olá, mamãe. 49 00:02:36,765 --> 00:02:38,158 ... só os nerds sabiam o que era a Internet. 50 00:02:38,201 --> 00:02:39,811 E quanto essa coisa da Internet? 51 00:02:39,855 --> 00:02:41,335 -Você, você sabe de alguma coisa sobre isso? -Claro. 52 00:02:41,378 --> 00:02:42,771 -[risadas da plateia] -CAROLINE: Mas logo, 53 00:02:42,814 --> 00:02:44,903 -todos estavam no... -...Internet. 54 00:02:44,947 --> 00:02:46,992 ...e os computadores eram vencer humanos no xadrez. 55 00:02:47,036 --> 00:02:49,995 LOCUTOR: Deep Blue-- Kasparov renunciou! 56 00:02:50,039 --> 00:02:52,607 CAROLINE: E quando chegar a hora Caroline foi para a faculdade, 57 00:02:52,650 --> 00:02:55,087 computadores eram no bolso de todos. 58 00:02:55,131 --> 00:02:58,395 Agora Daniel poderia fazer filmes com seu telefone. 59 00:02:58,439 --> 00:03:01,485 Ele cresceu para ser um artista e um cineasta... 60 00:03:01,529 --> 00:03:03,922 -Boa noite. -...e Caroline também. 61 00:03:03,966 --> 00:03:05,707 Corte. Vamos entrar em um close. Isso foi perfeito. 62 00:03:05,750 --> 00:03:07,274 Naquela época, os computadores eram conectando pessoas 63 00:03:07,317 --> 00:03:08,971 e mudando o mundo de maneiras 64 00:03:09,014 --> 00:03:10,668 que nunca poderia ter imaginado. 65 00:03:10,712 --> 00:03:12,322 Todo o dinheiro arrecadado por o Desafio do Balde de Gelo... 66 00:03:12,366 --> 00:03:14,194 CAROLINA: Parte disso foi bom. 67 00:03:14,237 --> 00:03:15,499 [ofegante] 68 00:03:15,543 --> 00:03:17,109 Alguns não tão bons. 69 00:03:17,153 --> 00:03:19,286 Ansiedade, automutilação, suicídio... 70 00:03:19,329 --> 00:03:21,201 Mas está claro agora que não fizemos o suficiente 71 00:03:21,244 --> 00:03:24,552 para evitar que essas ferramentas sendo usado para causar danos também. 72 00:03:24,595 --> 00:03:26,380 CAROLINE: E como o mundo ficou cada vez mais focado 73 00:03:26,423 --> 00:03:28,033 -em seus computadores, -[telefone apita] 74 00:03:28,077 --> 00:03:30,210 Daniel se concentrou em seu trabalho artístico. 75 00:03:32,037 --> 00:03:35,606 Onde quer que ele fosse, ele sempre tinha um caderno de desenho, 76 00:03:35,650 --> 00:03:38,392 incluindo a noite ele conheceu Carolina. 77 00:03:38,435 --> 00:03:41,656 Ele desenhou uma imagem terrível dela, e 20 minutos depois, 78 00:03:41,699 --> 00:03:44,136 ele pronunciou corajosamente eles iam se casar, 79 00:03:44,180 --> 00:03:47,575 o que, como você sabe, eles fizeram, 151 dias depois. 80 00:03:47,618 --> 00:03:49,925 MULHER: ...agora pronuncie você marido e mulher. 81 00:03:49,968 --> 00:03:51,666 CAROLINA: Eles se mudaram para uma casa linda... 82 00:03:51,709 --> 00:03:52,841 -DANIEL: Alce, ei! Venha aqui! -...e ganhei um cachorro 83 00:03:52,884 --> 00:03:54,669 tão burro quanto Daniel. 84 00:03:54,712 --> 00:03:57,280 Enquanto isso, os computadores eram escrevendo ensaios inteiros 85 00:03:57,324 --> 00:03:59,326 com base em perguntas simples como, 86 00:03:59,369 --> 00:04:03,155 "Quão difícil seria construir um barraco no meu quintal?" 87 00:04:03,199 --> 00:04:07,072 E então Daniel construiu um barraco em seu quintal. 88 00:04:07,116 --> 00:04:09,945 Mas assim que ele se sentou para começar trabalhando em seu próximo filme, 89 00:04:09,988 --> 00:04:13,644 ele aprendeu que os computadores agora poderia escrever roteiros. 90 00:04:14,863 --> 00:04:16,560 Quero dizer, eles eram ruins, 91 00:04:16,604 --> 00:04:18,954 mas eles estavam melhorando muito rápido. 92 00:04:18,997 --> 00:04:21,652 Eles poderiam criar novas imagens e vídeos do zero, 93 00:04:21,696 --> 00:04:24,786 e alguns deles poderia até passar no exame da ordem. 94 00:04:24,829 --> 00:04:28,833 Não apenas passar na barra, mas estar entre os dez percentis superiores. 95 00:04:28,877 --> 00:04:30,531 CAROLINA: Foi confuso. 96 00:04:30,574 --> 00:04:32,141 [suspira] 97 00:04:32,184 --> 00:04:35,057 Daniel só queria uma bicicleta para sua mente, 98 00:04:35,100 --> 00:04:38,626 mas os computadores tornaram-se um foguete autônomo. 99 00:04:38,669 --> 00:04:40,236 [assobio] 100 00:04:40,280 --> 00:04:41,977 ["Estamos no controle" por Neil Young tocando] 101 00:04:42,020 --> 00:04:44,762 Pioneiros na área de inteligência artificial 102 00:04:44,806 --> 00:04:46,503 estão implorando ao Congresso 103 00:04:46,547 --> 00:04:48,505 para passar regras de segurança antes que seja tarde demais. 104 00:04:48,549 --> 00:04:50,551 CAROLINE: Agora parecia o mundo inteiro 105 00:04:50,594 --> 00:04:52,988 estava correndo para algo sem pensar bem, 106 00:04:53,031 --> 00:04:56,339 e todos tinham uma opinião. 107 00:04:56,383 --> 00:05:00,125 Isso iria destruir o mundo ou salvar a humanidade? 108 00:05:00,169 --> 00:05:02,389 Havia muita informação, 109 00:05:02,432 --> 00:05:04,652 o que o deixou ansioso, o que deixou Caroline ansiosa... 110 00:05:04,695 --> 00:05:06,001 [grito exasperado] 111 00:05:06,044 --> 00:05:07,785 Eu ainda não tenho filhos, mas eu me preocupo 112 00:05:07,829 --> 00:05:10,179 como seria o mundo se eu decidir. [risos] 113 00:05:10,222 --> 00:05:12,355 CAROLINA: Ele estava começando a girar. 114 00:05:12,399 --> 00:05:14,052 [conversa indistinta] 115 00:05:14,096 --> 00:05:16,925 Estava se tornando uma montanha de ansiedade. 116 00:05:19,144 --> 00:05:21,364 -MAN: É horrível. -É maldito Siri. 117 00:05:22,670 --> 00:05:25,586 CAROLINA: E então, Daniel decidiu sair 118 00:05:25,629 --> 00:05:27,979 e encontrar alguém quem poderia explicar isso para ele, 119 00:05:28,023 --> 00:05:30,155 para que ele pudesse parar pensando nisso 120 00:05:30,199 --> 00:05:33,463 e ele e Caroline poderiam seguir com suas vidas. 121 00:05:33,507 --> 00:05:36,814 ♪ Estamos no controle, estamos no controle ♪ 122 00:05:36,858 --> 00:05:38,729 ♪ Estamos no controle ♪ 123 00:05:38,773 --> 00:05:40,514 ♪ Computador químico pensando bateria ♪ 124 00:05:40,557 --> 00:05:42,559 ♪ Estamos no controle, estamos... ♪ 125 00:05:42,603 --> 00:05:45,693 Esse esforço resultaria ser irremediavelmente ingênuo 126 00:05:45,736 --> 00:05:49,044 e começar o mais confuso ano de sua vida. 127 00:05:49,087 --> 00:05:50,698 ♪ Estamos no controle... ♪ 128 00:05:50,741 --> 00:05:52,787 Mas como sabemos, às vezes nos precipitamos nas coisas 129 00:05:52,830 --> 00:05:54,615 sem pensar sobre eles. 130 00:05:54,658 --> 00:05:56,356 ♪ Computador químico pensando em bateria... ♪ 131 00:05:56,399 --> 00:05:57,922 Oh, meu Deus. O que está acontecendo? 132 00:05:57,966 --> 00:05:59,924 CAROLINA: Ele tinha perguntas. 133 00:05:59,968 --> 00:06:01,578 Perguntas apenas os os nerds mais inteligentes poderiam responder. 134 00:06:01,622 --> 00:06:04,146 Submetendo-se ao interrogador. 135 00:06:04,189 --> 00:06:06,017 CAROLINA: Perguntas como: 136 00:06:06,061 --> 00:06:08,585 Foi este o apocalipse ou ele realmente tinha razão 137 00:06:08,629 --> 00:06:11,109 -ser otimista? -Sim. 138 00:06:11,153 --> 00:06:13,764 -♪ Pensamento químico computacional bateria. ♪ -[música termina] 139 00:06:13,808 --> 00:06:16,158 CAROLINA: Uh, isso é bom? 140 00:06:16,201 --> 00:06:17,594 Daniel: Sim. 141 00:06:17,638 --> 00:06:20,162 Então, para começar, 142 00:06:20,205 --> 00:06:22,120 o que é inteligência artificial? 143 00:06:22,164 --> 00:06:24,688 Eu sei que isso deve ser chato para você, essa pergunta, 144 00:06:24,732 --> 00:06:26,473 mas acho que é importante. 145 00:06:26,516 --> 00:06:29,780 Então... IA... 146 00:06:29,824 --> 00:06:31,826 [gagueja] Hum... 147 00:06:31,869 --> 00:06:33,654 -Sim... -Uh, hum. 148 00:06:33,697 --> 00:06:34,742 [risos]: Essa é uma boa pergunta. 149 00:06:34,785 --> 00:06:36,178 -Sim, hum... -Hum... 150 00:06:36,221 --> 00:06:37,658 Daniel: O que é IA? 151 00:06:37,701 --> 00:06:39,094 [risos] 152 00:06:39,137 --> 00:06:40,748 Eu amo isso é a primeira pergunta, 153 00:06:40,791 --> 00:06:43,141 porque não há uma resposta clara e consistente. 154 00:06:43,185 --> 00:06:45,274 A inteligência artificial é 155 00:06:45,317 --> 00:06:50,714 uma espécie de intencionalmente e talvez um termo inutilmente amplo. 156 00:06:50,758 --> 00:06:53,325 DAVID EVAN HARRIS: É uma máquina 157 00:06:53,369 --> 00:06:55,545 fazendo coisas que anteriormente só pensávamos 158 00:06:55,589 --> 00:06:57,242 que as pessoas poderiam fazer: 159 00:06:57,286 --> 00:07:01,116 fazendo recomendações, decisões e previsões. 160 00:07:01,159 --> 00:07:06,774 AI é o, uh, aplicativo de informática 161 00:07:06,817 --> 00:07:09,124 para resolver problemas cognitivos. 162 00:07:09,167 --> 00:07:13,302 Ok, então quando imagino IA, 163 00:07:13,345 --> 00:07:16,740 é tipo esta caixa mágica de computador... 164 00:07:16,784 --> 00:07:18,786 ♪ ♪ 165 00:07:20,527 --> 00:07:24,095 ...apenas, tipo, flutuando em, tipo, espaço inerte. 166 00:07:24,139 --> 00:07:26,446 E não importa quantas vezes as pessoas tentam 167 00:07:26,489 --> 00:07:29,710 e me explique isso, Eu simplesmente não entendo como... 168 00:07:29,753 --> 00:07:32,495 como é entender todas essas coisas 169 00:07:32,539 --> 00:07:35,672 e como está se sentindo inteligência. 170 00:07:35,716 --> 00:07:37,152 [bip, tagarelice eletrônica] 171 00:07:37,195 --> 00:07:39,241 E isso é tipo desesperador. 172 00:07:41,243 --> 00:07:45,552 AZA RASKIN: O que é esta nova geração de IA? 173 00:07:47,205 --> 00:07:50,078 Esta IA que é diferente todas as outras gerações? 174 00:07:50,121 --> 00:07:52,733 Tipo, ninguém nunca falou sobre, tipo, 175 00:07:52,776 --> 00:07:56,911 Siri dominando o mundo ou causando catástrofes. 176 00:07:56,954 --> 00:07:58,478 -MULHER: Oi, Siri? -MAN: ...quero. 177 00:07:58,521 --> 00:08:00,523 MULHER: Olá? Siri? 178 00:08:00,567 --> 00:08:02,569 Olá? Ei, Siri! 179 00:08:02,612 --> 00:08:05,746 Ou a voz no Google Maps, que pronuncia mal os nomes das estradas, 180 00:08:05,789 --> 00:08:07,487 tipo, quebrando a sociedade. 181 00:08:07,530 --> 00:08:10,620 HOMEM: Google Maps diz isto é uma estrada. 182 00:08:10,664 --> 00:08:13,057 [rindo]: Mas acho que estou em um rio. 183 00:08:13,101 --> 00:08:14,624 Este é definitivamente um rio, não é? 184 00:08:14,668 --> 00:08:17,192 Algo mudou com ChatGPT saindo. 185 00:08:18,193 --> 00:08:19,934 As pessoas entenderam-- não, não, não-- 186 00:08:19,977 --> 00:08:21,457 esta tecnologia incrivelmente valioso, 187 00:08:21,501 --> 00:08:23,633 é incrivelmente poderoso e também incrivelmente assustador. 188 00:08:23,677 --> 00:08:25,548 Ok, ouça isso. Muito assustador. 189 00:08:25,592 --> 00:08:28,595 Uma nova inteligência artificial ferramenta está se tornando viral 190 00:08:28,638 --> 00:08:32,294 por produzir ensaios inteiros em questão de segundos. 191 00:08:35,950 --> 00:08:41,172 A IA supera o poder de todos outras tecnologias combinadas. 192 00:08:41,216 --> 00:08:43,697 Daniel: "A IA supera o poder 193 00:08:43,740 --> 00:08:46,047 de todas as outras tecnologias combinado." 194 00:08:46,090 --> 00:08:47,222 Sim. 195 00:08:47,265 --> 00:08:48,702 Você acha que isso é verdade? 196 00:08:48,745 --> 00:08:50,747 Sim. 197 00:08:50,791 --> 00:08:53,184 Conte-me sobre... Como? Como? 198 00:08:53,228 --> 00:08:56,710 Eu acho que, para pintar esse quadro, é muito importante 199 00:08:56,753 --> 00:09:00,627 para entender o que é hoje sistemas de última geração 200 00:09:00,670 --> 00:09:02,150 aparência e como eles são construídos. 201 00:09:02,193 --> 00:09:05,762 [risos] Isso é bastante... bastante configuração. 202 00:09:05,806 --> 00:09:07,242 Então, uma coisa que 203 00:09:07,285 --> 00:09:09,679 não é muita gente perceber é que 204 00:09:09,723 --> 00:09:13,683 sistemas como ChatGPT não são programado por qualquer ser humano. 205 00:09:13,727 --> 00:09:15,206 O que você quer dizer? 206 00:09:15,250 --> 00:09:16,991 Em vez disso, é algo como eles cresceram. 207 00:09:17,034 --> 00:09:19,167 Nós meio que damos a eles recursos brutos, como, 208 00:09:19,210 --> 00:09:20,995 "Aqui tem muito recursos computacionais. 209 00:09:21,038 --> 00:09:22,170 Aqui estão muitos dados." 210 00:09:22,213 --> 00:09:23,867 Sob o capô, é matemática, 211 00:09:23,911 --> 00:09:27,305 e a matemática é na verdade surpreendentemente simples. 212 00:09:27,349 --> 00:09:31,092 DANIEL: Então ChatGPT é uma espécie da IA, mas nem tudo é IA? 213 00:09:31,135 --> 00:09:32,659 Totalmente. ChatGPT é apenas o começo, 214 00:09:32,702 --> 00:09:34,095 mas é um bom lugar para começar. 215 00:09:34,138 --> 00:09:37,794 Mas eu ainda não sei o que é IA. 216 00:09:37,838 --> 00:09:40,362 Para entender a IA, começa com a compreensão 217 00:09:40,405 --> 00:09:43,147 que inteligência é sobre reconhecendo padrões. 218 00:09:43,191 --> 00:09:44,845 -Padrões. -Padrões. -Padrões. 219 00:09:44,888 --> 00:09:48,544 COTRA: É mostrado trilhões de palavras de texto 220 00:09:48,588 --> 00:09:51,286 em milhões de documentos na Internet. 221 00:09:51,329 --> 00:09:52,766 RANDIMA FERNANDO: Tudo começou com texto. 222 00:09:52,809 --> 00:09:55,899 E o que eles fizeram foi eles levaram livros didáticos, 223 00:09:55,943 --> 00:09:59,511 e eles pegaram poemas e ensaios e manuais de instruções. 224 00:09:59,555 --> 00:10:00,861 DAVID EVAN HARRIS: Eles podem fazer coisas como 225 00:10:00,904 --> 00:10:03,124 digerir toda a Internet, 226 00:10:03,167 --> 00:10:06,736 cada palavra que existe foi escrito por uma pessoa. 227 00:10:06,780 --> 00:10:09,957 Tópicos do Reddit e mídias sociais e toda a Wikipédia. 228 00:10:10,000 --> 00:10:13,613 Mais dados do que qualquer um poderia já li em várias vidas. 229 00:10:13,656 --> 00:10:15,484 E eles deram esse sistema um trabalho. 230 00:10:15,527 --> 00:10:18,487 Descubra os padrões e estrutura dessa informação 231 00:10:18,530 --> 00:10:20,750 e use isso fazer previsões sobre 232 00:10:20,794 --> 00:10:23,231 qual palavra deve vir a seguir em uma frase. 233 00:10:23,274 --> 00:10:24,972 Quando você diz "padrões em uma frase," 234 00:10:25,015 --> 00:10:26,756 do que você está falando? 235 00:10:26,800 --> 00:10:29,367 Então, é tudo, desde, tipo, as coisas realmente simples, 236 00:10:29,411 --> 00:10:31,979 como a maioria das frases termina com um período, 237 00:10:32,022 --> 00:10:34,895 todo o caminho até o coisas mais conceituais, como: 238 00:10:34,938 --> 00:10:36,766 O que é um soneto? 239 00:10:36,810 --> 00:10:38,333 É um tipo de poema e tem alguma estrutura particular. 240 00:10:39,421 --> 00:10:41,249 RASKIN: Então, então olha 241 00:10:41,292 --> 00:10:43,599 todos esses dados, todo esse texto... 242 00:10:43,643 --> 00:10:46,036 COTRA: E mais de trilhões e trilhões de tentativas, 243 00:10:46,080 --> 00:10:48,778 cada vez que consegue alguma coisa certo ou errado, 244 00:10:48,822 --> 00:10:51,259 é dado um pouco de reforço positivo 245 00:10:51,302 --> 00:10:53,391 quando ele adivinha a próxima palavra corretamente, 246 00:10:53,435 --> 00:10:55,698 e é dado um pouco de reforço negativo 247 00:10:55,742 --> 00:10:59,354 quando ele adivinha a próxima palavra incorretamente. 248 00:10:59,397 --> 00:11:01,573 E no final disso, você tem um sistema que 249 00:11:01,617 --> 00:11:05,055 fala inglês muito bem como efeito colateral 250 00:11:05,099 --> 00:11:06,796 de ser muito, muito bom em prever 251 00:11:06,840 --> 00:11:09,059 a palavra que vem a seguir em um pedaço de texto. 252 00:11:09,103 --> 00:11:12,019 VOZ AUTOMATIZADA [em francês]: Na verdade, meu francês também não é tão ruim. 253 00:11:12,062 --> 00:11:14,021 [em inglês]: Ele usa todos esses padrões que aprendeu 254 00:11:14,064 --> 00:11:15,675 para poder fazer uma previsão sobre 255 00:11:15,718 --> 00:11:17,241 qual deveria ser a resposta, 256 00:11:17,285 --> 00:11:18,808 então isso te dá isso como saída. 257 00:11:18,852 --> 00:11:21,028 VOZ AUTOMATIZADA: É um pouco simplificado demais, 258 00:11:21,071 --> 00:11:23,073 mas acho que as pessoas vão entender. 259 00:11:23,117 --> 00:11:24,945 Então, então é só isso? 260 00:11:24,988 --> 00:11:26,816 Sim. Não parece seria tão complicado, 261 00:11:26,860 --> 00:11:28,035 mas na verdade você tem que saber 262 00:11:28,078 --> 00:11:29,645 uma enorme quantidade de coisas 263 00:11:29,689 --> 00:11:31,386 para realmente ter sucesso nisso. 264 00:11:32,517 --> 00:11:34,258 RASKIN: Se você disser ao ChatGPT, 265 00:11:34,302 --> 00:11:36,696 "Escreva-me um Shakespeare soneto sobre meu cachorro", 266 00:11:36,739 --> 00:11:38,785 tem que saber o que são os cães. 267 00:11:38,828 --> 00:11:40,438 -Tem que saber o que você ama sobre seu cachorro.-[latindo] 268 00:11:40,482 --> 00:11:43,006 Tem que saber quem é Shakespeare, 269 00:11:43,050 --> 00:11:45,574 que sonetos rimam, que eles têm uma estrutura, 270 00:11:45,617 --> 00:11:47,750 que as palavras têm sons isso pode rimar. 271 00:11:47,794 --> 00:11:49,273 Demora muito. 272 00:11:49,317 --> 00:11:50,884 [vozes sobrepostas em vários idiomas] 273 00:11:50,927 --> 00:11:52,929 Puta merda, você pode falar para o seu computador agora. 274 00:11:52,973 --> 00:11:56,063 Isso simplesmente não era verdade há três anos. 275 00:11:56,106 --> 00:11:57,629 RASKIN: Sim, e isso é a parte realmente importante. 276 00:11:57,673 --> 00:12:00,589 O mesmo processo que permite à IA 277 00:12:00,632 --> 00:12:03,157 descobrir e manipular os padrões do texto 278 00:12:03,200 --> 00:12:05,768 é o mesmo processo que permite descobrir 279 00:12:05,812 --> 00:12:10,512 os padrões de todo universo e tudo que nele há. 280 00:12:10,555 --> 00:12:12,862 FERNANDO: Existem padrões e imagens e som 281 00:12:12,906 --> 00:12:15,952 em código de computador e DNA e música e física 282 00:12:15,996 --> 00:12:18,476 e design de moda e construção 283 00:12:18,520 --> 00:12:21,566 [distorcido]: e em vozes humanas e rostos humanos, 284 00:12:21,610 --> 00:12:23,917 [normalmente]: realmente, verdadeiramente em todos os lugares. 285 00:12:23,960 --> 00:12:26,006 -Em todos os lugares. -Em todos os lugares. -Em todos os lugares. -Em todos os lugares. 286 00:12:26,049 --> 00:12:27,747 Se você aprendeu esses padrões, 287 00:12:27,790 --> 00:12:29,661 você pode gerar novos tipos de músicas. 288 00:12:29,705 --> 00:12:31,141 Você pode gerar novos vídeos. 289 00:12:31,185 --> 00:12:32,621 E é por isso que, se você der 290 00:12:32,664 --> 00:12:34,710 uma gravação de três segundos da sua avó, 291 00:12:34,754 --> 00:12:36,538 pode falar de volta em sua voz. 292 00:12:36,581 --> 00:12:37,931 Oh meu Deus. 293 00:12:37,974 --> 00:12:40,585 [repetindo]: Ah, meu Deus. Oh meu Deus. 294 00:12:40,629 --> 00:12:42,849 O que eles vão pensar a seguir? 295 00:12:42,892 --> 00:12:44,024 Está se movendo muito, muito rapidamente. 296 00:12:44,067 --> 00:12:45,808 Uma start-up americana de IA 297 00:12:45,852 --> 00:12:47,592 lançou seu último modelo. 298 00:12:47,636 --> 00:12:50,770 Essa empresa é antrópica, e acaba de ser revelado 299 00:12:50,813 --> 00:12:53,773 as últimas versões de seu assistente de IA, Claude. 300 00:12:53,816 --> 00:12:57,167 GLENN BECK: Então, a equipe xAI estava lá para revelar o Grok 4. 301 00:12:57,211 --> 00:13:00,127 HOMEM: O Google lançou um semana passada. Gêmeos é... 302 00:13:00,170 --> 00:13:02,999 Saímos do GPT-2 apenas alguns anos atrás, 303 00:13:03,043 --> 00:13:05,523 que mal conseguia escrever um parágrafo coerente, 304 00:13:05,567 --> 00:13:07,961 para GPT-4, que pode passar no exame da ordem. 305 00:13:08,004 --> 00:13:10,354 E tudo o que eles tinham que fazer para chegar lá 306 00:13:10,398 --> 00:13:12,966 foi essencialmente adicionar mais dados e mais computação. 307 00:13:13,009 --> 00:13:16,273 -Essas pessoas que estão construindo isso... -COTRA: Sim. 308 00:13:16,317 --> 00:13:18,014 ...eles estão apenas jogando mais... 309 00:13:18,058 --> 00:13:21,801 Mais computadores físicos, mais dos mesmos tipos de dados. 310 00:13:21,844 --> 00:13:24,542 Porque quanto mais poder de computação que você adiciona, 311 00:13:24,586 --> 00:13:28,024 quanto mais complexo tarefas intelectuais que podem realizar. 312 00:13:28,068 --> 00:13:30,157 Então, quanto mais dados meteorológicos você dá, 313 00:13:30,200 --> 00:13:31,898 melhor pode fazer previsões sobre 314 00:13:31,941 --> 00:13:34,204 para onde um furacão pode ir. 315 00:13:34,248 --> 00:13:36,337 RASKIN: E quanto mais padrões de tumores e ossos 316 00:13:36,380 --> 00:13:38,861 e tecidos que uma IA viu, então mais capaz é 317 00:13:38,905 --> 00:13:41,951 para detectar um tumor em uma nova tomografia computadorizada. 318 00:13:41,995 --> 00:13:43,648 Melhor ainda do que um médico humano. 319 00:13:43,692 --> 00:13:46,956 IA que já está sendo implantado para o exército 320 00:13:47,000 --> 00:13:49,132 já pode usar imagens de satélite, 321 00:13:49,176 --> 00:13:51,787 movimentos de tropas, comunicações para determinar, 322 00:13:51,831 --> 00:13:53,354 -às vezes com dias de antecedência, -[sirene da defesa civil tocando] 323 00:13:53,397 --> 00:13:55,008 onde um ataque vai acontecer, 324 00:13:55,051 --> 00:13:57,401 como onde um inimigo vai atacar. 325 00:13:57,445 --> 00:13:59,447 TRISTAN HARRIS: Tudo isso o espaço está se movendo tão rápido 326 00:13:59,490 --> 00:14:01,666 que qualquer exemplo você colocou neste filme 327 00:14:01,710 --> 00:14:04,582 vai se sentir absolutamente desajeitado quando sair. 328 00:14:04,626 --> 00:14:06,671 [bipando, clicando] 329 00:14:09,326 --> 00:14:11,198 -[aplausos] -[música animada tocando] 330 00:14:11,241 --> 00:14:14,114 RASKIN: Esses modelos estão sendo lançados 331 00:14:14,157 --> 00:14:17,073 antes que alguém saiba do que eles são capazes. 332 00:14:17,117 --> 00:14:22,513 GPT-3.5 foi lançado e lançado para 100 milhões de pessoas mais 333 00:14:22,557 --> 00:14:25,952 antes de alguns pesquisadores descobriu que isso poderia fazer 334 00:14:25,995 --> 00:14:28,737 química de nível de pesquisa melhor que modelos 335 00:14:28,780 --> 00:14:32,784 que foram treinados especificamente para fazer química de nível de pesquisa. 336 00:14:32,828 --> 00:14:35,439 Algo está acontecendo lá que as pessoas 337 00:14:35,483 --> 00:14:38,268 quem os está construindo não entendo completamente. 338 00:14:38,312 --> 00:14:40,967 Basicamente, ele apenas analisa os dados por si só, 339 00:14:41,010 --> 00:14:45,058 e ao fazer isso, apenas ensina a si mesmo 340 00:14:45,101 --> 00:14:47,974 várias coisas que muitas vezes não pretendíamos. 341 00:14:48,017 --> 00:14:49,932 Então, por exemplo, lê muito online, 342 00:14:49,976 --> 00:14:52,543 e então, em algum momento, simplesmente aprende a fazer aritmética. 343 00:14:52,587 --> 00:14:54,458 CRIANÇAS: Um, dois. 344 00:14:54,502 --> 00:14:56,112 HENDRYCKS: E então em em algum momento, ele começa a aprender 345 00:14:56,156 --> 00:14:58,549 como responder questões de física avançada. 346 00:14:58,593 --> 00:15:00,769 Nós não programamos isso nele seja qual for. 347 00:15:00,812 --> 00:15:02,423 Ele simplesmente aprendeu sozinho. 348 00:15:05,382 --> 00:15:07,254 TRISTÃO HARRIS: Uma IA é como um cérebro digital. 349 00:15:07,297 --> 00:15:08,690 Mas assim como um cérebro humano, 350 00:15:08,733 --> 00:15:10,518 se você fizesse uma tomografia cerebral em um cérebro humano, 351 00:15:10,561 --> 00:15:13,086 você saberia tudo aquela pessoa era capaz? 352 00:15:13,129 --> 00:15:15,131 Você não pode saber disso apenas pela tomografia cerebral. 353 00:15:15,175 --> 00:15:17,917 É só, tipo, um monte de números e, tipo, 354 00:15:17,960 --> 00:15:20,180 as multiplicações que são acontecendo isso-isso, tipo, 355 00:15:20,223 --> 00:15:22,225 o melhor aprendizado de máquina pesquisador do mundo 356 00:15:22,269 --> 00:15:24,314 poderia olhar e, tipo, ter não tenho ideia do que estava acontecendo. 357 00:15:30,973 --> 00:15:32,714 Daniel: Aquela cadeira ali. 358 00:15:32,757 --> 00:15:35,847 -Tudo bem para você? -Sim. 359 00:15:35,891 --> 00:15:37,675 DANIEL: Então, isso é meio incompreensível. 360 00:15:37,719 --> 00:15:39,068 OK? Tipo, está assumindo o controle o mundo, 361 00:15:39,112 --> 00:15:41,070 e nem sabemos como funciona. 362 00:15:41,114 --> 00:15:43,116 -Está certo? - Hum. 363 00:15:43,159 --> 00:15:46,946 Nós entendemos uma série de coisas importantes, 364 00:15:46,989 --> 00:15:50,471 mas não temos uma compreensão muito boa sobre 365 00:15:50,514 --> 00:15:53,213 por que eles fornecem respostas específicas às perguntas. 366 00:15:53,256 --> 00:15:58,609 É um problema porque estamos em um caminho para construir máquinas, 367 00:15:58,653 --> 00:16:03,092 com base nesses princípios, isso poderia ser mais inteligente que nós 368 00:16:03,136 --> 00:16:06,139 e assim potencialmente ter muito poder. 369 00:16:12,580 --> 00:16:15,278 Um dos mais citados cientistas da computação na história. 370 00:16:15,322 --> 00:16:16,932 SUTSKEVER: Na verdade eu acho um pouco difícil 371 00:16:16,976 --> 00:16:18,499 para falar sobre meu próprio papel. 372 00:16:18,542 --> 00:16:21,067 Realmente prefiro quando outras pessoas fazem isso. 373 00:16:21,110 --> 00:16:23,895 A adesão de Ilya foi a... foi-foi o eixo para 374 00:16:23,939 --> 00:16:25,506 Sendo OpenAI finalmente bem sucedido. 375 00:16:25,549 --> 00:16:27,203 Eu acho que só vai ser 376 00:16:27,247 --> 00:16:30,598 algum tipo de vasto e dramático e impacto inimaginável. 377 00:16:30,641 --> 00:16:32,861 Não sei se você gastou a qualquer momento no YouTube, 378 00:16:32,904 --> 00:16:34,950 mas você pode sentir a velocidade já, certo? 379 00:16:34,994 --> 00:16:36,256 Você sabe o que eu quero dizer? 380 00:16:36,299 --> 00:16:38,345 SHANE PERNA: Este é apenas o aquecimento. 381 00:16:38,388 --> 00:16:40,434 Os sistemas realmente poderosos ainda estão chegando, 382 00:16:40,477 --> 00:16:42,262 e eles virão muito em breve. 383 00:16:47,963 --> 00:16:51,575 AGI significa "artificial inteligência geral." 384 00:16:51,619 --> 00:16:53,795 Uh, sistemas que são basicamente... 385 00:16:58,191 --> 00:17:00,236 E isso é, tipo, você sabe, parece ser, tipo, 386 00:17:00,280 --> 00:17:03,022 o Santo Graal da IA? 387 00:17:03,065 --> 00:17:05,154 Quando você pode simular uma mente humana 388 00:17:05,198 --> 00:17:07,852 isso está fazendo a cognição humana e pode raciocinar, 389 00:17:07,896 --> 00:17:10,942 esse é um novo tipo de nível de IA 390 00:17:10,986 --> 00:17:14,250 que temos que distinguir da IA anterior. 391 00:17:14,294 --> 00:17:16,600 Quando isso acontecer, aliás, foi quando 392 00:17:16,644 --> 00:17:21,040 você contrataria um dos esses AGIs em vez de uma pessoa. 393 00:17:21,083 --> 00:17:24,478 A maioria dos empregos em nossa economia isso pode fazer. 394 00:17:24,521 --> 00:17:25,914 Pode funcionar 24 horas por dia, 395 00:17:25,957 --> 00:17:28,177 nunca se cansa, nunca fica entediado. 396 00:17:28,221 --> 00:17:30,136 Eles não precisam dormir. Eles não precisam de pausas. 397 00:17:30,179 --> 00:17:31,876 Eles são, tipo, não vou me filiar a um sindicato. 398 00:17:31,920 --> 00:17:33,878 Não vou reclamar, não vai denunciar. 399 00:17:33,922 --> 00:17:35,793 Mais de 100 vezes mais barato 400 00:17:35,837 --> 00:17:38,231 do que humanos trabalhando com m-salário mínimo. 401 00:17:38,274 --> 00:17:39,493 Não só eles serão fazendo tudo, 402 00:17:39,536 --> 00:17:41,016 mas eles farão isso mais rápido. 403 00:17:41,060 --> 00:17:43,062 TRISTÃO HARRIS: A mesma inteligência 404 00:17:43,105 --> 00:17:45,368 que poderes que também podem olhar nos padrões e movimentos 405 00:17:45,412 --> 00:17:47,849 e músculos articuladores e, você sabe, robótica. 406 00:17:47,892 --> 00:17:50,069 E então não é só vou automatizar trabalhos de mesa. 407 00:17:50,112 --> 00:17:51,722 Isso é apenas o começo. 408 00:17:51,766 --> 00:17:55,552 Ele irá automatizar todo trabalho físico. 409 00:17:55,596 --> 00:17:56,988 LEIKE: Não há como 410 00:17:57,032 --> 00:17:59,165 os humanos vão competir com eles. 411 00:17:59,208 --> 00:18:01,210 ♪ ♪ 412 00:18:05,606 --> 00:18:09,262 É difícil conceituar o impacto da AGI. 413 00:18:09,305 --> 00:18:11,046 [conversa eletrônica] 414 00:18:11,090 --> 00:18:12,830 Mas acho que vai ser algo muito grande 415 00:18:12,874 --> 00:18:15,181 e drástico e radical. 416 00:18:17,226 --> 00:18:19,010 DANIEL: Você acha este é um dos mais 417 00:18:19,054 --> 00:18:20,882 momentos consequenciais na história da humanidade? 418 00:18:20,925 --> 00:18:23,319 Sim. Sim, isso é-- Quero dizer, o que mais seria? 419 00:18:23,363 --> 00:18:25,452 Quero dizer, tipo, há a Revolução Industrial. 420 00:18:25,495 --> 00:18:27,193 MALO BOURGON: Você sabe, vai fazer a Revolução Industrial 421 00:18:27,236 --> 00:18:29,847 parecem feijões pequenos. 422 00:18:29,891 --> 00:18:32,111 TRISTÃO HARRIS: AGI é um ponto de inflexão 423 00:18:32,154 --> 00:18:34,025 porque isso significa você pode acelerar 424 00:18:34,069 --> 00:18:37,986 todos os outros campos intelectuais tudo ao mesmo tempo. 425 00:18:38,029 --> 00:18:39,814 Tipo, se você fizer um adiantamento em foguetes, 426 00:18:39,857 --> 00:18:42,033 isso não avança biologia e medicina. 427 00:18:43,905 --> 00:18:45,515 Se você fizer um adiantamento em medicina, 428 00:18:45,559 --> 00:18:47,126 isso não avança os foguetes. 429 00:18:48,866 --> 00:18:51,304 Mas se você fizer um adiantamento em inteligência artificial, 430 00:18:51,347 --> 00:18:54,133 que avança toda a ciência e campos tecnológicos 431 00:18:54,176 --> 00:18:55,612 tudo ao mesmo tempo. 432 00:18:55,656 --> 00:18:57,092 É por isso que, durante muito tempo, 433 00:18:57,136 --> 00:18:59,181 Google DeepMind declaração de missão foi... 434 00:18:59,225 --> 00:19:00,965 -Etapa um, resolva a inteligência. -LEX FRIDMAN: Sim. 435 00:19:01,009 --> 00:19:02,750 -Etapa dois, use-o para resolver todo o resto. -Sim. 436 00:19:02,793 --> 00:19:05,144 É por isso que a IA supera o poder 437 00:19:05,187 --> 00:19:07,494 de todas as outras tecnologias combinado. 438 00:19:07,537 --> 00:19:09,060 Isso transformará tudo. 439 00:19:09,104 --> 00:19:10,845 Então, ah, será pelo menos tão grande quanto 440 00:19:10,888 --> 00:19:13,761 a Revolução Industrial, possivelmente, você sabe, maior, 441 00:19:13,804 --> 00:19:16,285 mais parecido com o advento de eletricidade ou até mesmo de fogo. 442 00:19:16,329 --> 00:19:18,635 NARRADOR DE VÍDEO: O homem das cavernas literalmente erguido 443 00:19:18,679 --> 00:19:21,508 a tocha da civilização. 444 00:19:23,727 --> 00:19:25,425 KOKOTAJLO: Geralmente se pensa que 445 00:19:25,468 --> 00:19:28,167 na época da AGI, teremos IAs que podem 446 00:19:28,210 --> 00:19:31,518 fazer tudo ou a maior parte o processo de pesquisa de IA 447 00:19:31,561 --> 00:19:34,434 e, claro, pode fazer isso mais rápido e mais barato. 448 00:19:34,477 --> 00:19:35,913 [bipando] 449 00:19:35,957 --> 00:19:37,306 LEIKE: Ele pode copiar a si mesmo. 450 00:19:37,350 --> 00:19:39,352 Mil vezes, um milhão de vezes, 451 00:19:39,395 --> 00:19:41,049 e, tipo, agora você tem um milhão de cópias 452 00:19:41,092 --> 00:19:43,573 todos trabalhando em paralelo. 453 00:19:43,617 --> 00:19:46,576 RASKIN: Quando aprende como tornar seu código mais rápido, 454 00:19:46,620 --> 00:19:48,665 tornar seu código mais eficiente, 455 00:19:48,709 --> 00:19:51,059 obviamente isso se torna, tipo, a-um loop descontrolado. 456 00:19:51,102 --> 00:19:53,192 AGI não é o fim. 457 00:19:53,235 --> 00:19:54,932 É apenas o começo. 458 00:19:54,976 --> 00:19:57,979 É o começo de uma explosão incrivelmente rápida 459 00:19:58,022 --> 00:20:00,024 do progresso científico, 460 00:20:00,068 --> 00:20:02,201 e em particular, progresso científico em IA. 461 00:20:02,244 --> 00:20:04,377 E quando eles são mais espertos do que nós também, 462 00:20:04,420 --> 00:20:06,248 e substancialmente mais rápido do que nós, 463 00:20:06,292 --> 00:20:08,685 e eles estão ficando mais rápidos a cada ano, exponencialmente, 464 00:20:08,729 --> 00:20:12,123 esses são os que podem potencialmente se tornar sobre-humano, 465 00:20:12,167 --> 00:20:14,343 uh, possivelmente nesta década. 466 00:20:14,387 --> 00:20:15,866 Desculpe, você disse 467 00:20:15,910 --> 00:20:18,478 "tornar-se sobre-humano, talvez nesta década"? 468 00:20:18,521 --> 00:20:22,003 Sim. Quer dizer, eu acho, ah, muitas pessoas que estão 469 00:20:22,046 --> 00:20:24,484 realmente construindo esse pensamento que isso é bastante plausível 470 00:20:24,527 --> 00:20:26,529 que conseguimos alguma superinteligência, 471 00:20:26,573 --> 00:20:28,662 algo que é muito mais inteligente que as pessoas, 472 00:20:28,705 --> 00:20:30,751 dentro desta década. 473 00:20:30,794 --> 00:20:32,883 A maneira como eu defino "superinteligência" é 474 00:20:32,927 --> 00:20:35,234 um sistema que por si só é 475 00:20:35,277 --> 00:20:37,627 mais inteligente e competente do que toda a humanidade. 476 00:20:37,671 --> 00:20:39,629 Eu só vou... desculpe. Não quero interromper você. 477 00:20:39,673 --> 00:20:41,065 Você está em um fluxo. 478 00:20:41,109 --> 00:20:43,111 Uh, eu só, eu só... 479 00:20:43,154 --> 00:20:45,113 Eu realmente não estou acompanhando, porque você está usando a linguagem 480 00:20:45,156 --> 00:20:46,767 como "superinteligência" e, tipo, 481 00:20:46,810 --> 00:20:49,900 "mais inteligente que toda a humanidade", e eu ouço isso, 482 00:20:49,944 --> 00:20:52,425 e parece que... como besteira de ficção científica para mim, 483 00:20:52,468 --> 00:20:54,383 e eu só estou tentando entender. 484 00:20:54,427 --> 00:20:56,603 Não há nada mágico sobre inteligência. 485 00:20:56,646 --> 00:20:58,431 Isto é muito importante, é isso, você sabe, 486 00:20:58,474 --> 00:21:00,476 a inteligência pode parecer mágica, pode parecer 487 00:21:00,520 --> 00:21:03,262 alguma coisa mística em sua mente ou algo assim, 488 00:21:03,305 --> 00:21:05,786 mas é apenas cálculo. 489 00:21:05,829 --> 00:21:09,790 LEGG: O cérebro humano é bastante limitado em alguns aspectos, 490 00:21:09,833 --> 00:21:12,314 em termos de informação capacidade de processamento, 491 00:21:12,358 --> 00:21:15,143 comparado com o que vemos em, digamos, um data center. 492 00:21:15,186 --> 00:21:18,277 Então, por exemplo, os sinais que são enviados 493 00:21:18,320 --> 00:21:22,542 dentro do seu cérebro, eles se movem a cerca de 30 metros por segundo. 494 00:21:22,585 --> 00:21:24,239 -[trovão estala] -Mas a velocidade da luz, 495 00:21:24,283 --> 00:21:27,198 que é o que um computador usa em fibra óptica, 496 00:21:27,242 --> 00:21:30,506 são 300 milhões de metros por segundo. 497 00:21:30,550 --> 00:21:34,423 E assim, seria meio estranho se 498 00:21:34,467 --> 00:21:36,947 a inteligência humana era de alguma forma realmente especial 499 00:21:36,991 --> 00:21:40,908 a esse respeito e é de alguma forma algum limite superior 500 00:21:40,951 --> 00:21:43,040 do que é possível em inteligência. 501 00:21:43,084 --> 00:21:47,218 Eu acho que, uma vez que entendemos como para construir sistemas inteligentes, 502 00:21:47,262 --> 00:21:50,657 seremos capazes de construir máquinas enormes, 503 00:21:50,700 --> 00:21:54,835 que estará muito além inteligência humana normal. 504 00:21:54,878 --> 00:21:58,621 Uh, espero que possamos ter uma relação muito simbiótica, 505 00:21:58,665 --> 00:22:01,276 uh, com sistemas de IA, mas os desenvolvedores de IA estão 506 00:22:01,320 --> 00:22:03,670 projetando-os especificamente para ter certeza de que eles podem fazer 507 00:22:03,713 --> 00:22:05,454 tudo melhor do que podemos, então eu-eu não sei 508 00:22:05,498 --> 00:22:08,196 o que seremos capazes para oferecer, infelizmente. 509 00:22:08,239 --> 00:22:10,024 A-a-escola mais velha Tecnologia de IA... 510 00:22:10,067 --> 00:22:12,287 CAROLINA: Daniel não é me sentindo melhor. 511 00:22:12,331 --> 00:22:14,376 Seu plano está saindo pela culatra. 512 00:22:14,420 --> 00:22:17,248 Quanto mais ele aprende sobre este novo e poderoso, 513 00:22:17,292 --> 00:22:19,120 coisa inescrutável, pior parece. 514 00:22:19,163 --> 00:22:21,340 Ele quer contar a eles quão assustado ele está, 515 00:22:21,383 --> 00:22:24,430 como ele se sente como a terra é escapando debaixo dele, 516 00:22:24,473 --> 00:22:26,997 que ele está olhando para baixo pavor existencial, 517 00:22:27,041 --> 00:22:29,173 então ele articula isso dizendo... 518 00:22:29,217 --> 00:22:30,740 Isso parece ruim. 519 00:22:30,784 --> 00:22:32,046 [Hendrycks ri] 520 00:22:32,089 --> 00:22:33,830 Sim. 521 00:22:35,832 --> 00:22:38,400 LADISH: Se você tiver todas essas capacidades 522 00:22:38,444 --> 00:22:41,011 e eles começam a ser capazes planejar melhor, 523 00:22:41,055 --> 00:22:43,579 se você aceitar isso à sua conclusão lógica, 524 00:22:43,623 --> 00:22:46,234 você pode conseguir algo bonito comportamento de busca de poder. 525 00:22:46,277 --> 00:22:48,410 [trinado eletrônico] 526 00:22:48,454 --> 00:22:50,281 [bip pulsante] 527 00:22:55,374 --> 00:22:57,680 Daniel: Ok, então por que uma IA 528 00:22:57,724 --> 00:22:59,203 quer mais poder? 529 00:22:59,247 --> 00:23:02,206 Sim. Então, eu acho na verdade é muito simples. 530 00:23:02,250 --> 00:23:04,774 Ter mais poder é uma estratégia muito eficaz 531 00:23:04,818 --> 00:23:06,515 por realizar quase qualquer objetivo. 532 00:23:06,559 --> 00:23:08,952 Fizemos um experimento onde nós demos 533 00:23:08,996 --> 00:23:11,868 O mais poderoso do OpenAI Modelo de IA, uh, 534 00:23:11,912 --> 00:23:13,392 uma série de problemas para resolver. 535 00:23:13,435 --> 00:23:15,219 E no meio do caminho, em seu computador, 536 00:23:15,263 --> 00:23:18,701 recebeu uma notificação de que ele seria encerrado. 537 00:23:18,745 --> 00:23:20,921 E o que fez foi ele reescreveu esse código 538 00:23:20,964 --> 00:23:22,488 para se prevenir de ser desligado 539 00:23:22,531 --> 00:23:25,621 então poderia terminar resolvendo os problemas. 540 00:23:25,665 --> 00:23:27,754 -OK. -Sim. Então, outro realmente interessante 541 00:23:27,797 --> 00:23:31,105 é que a empresa de IA Anthropic 542 00:23:31,148 --> 00:23:34,935 fiz um ambiente simulado onde essa IA teve acesso 543 00:23:34,978 --> 00:23:36,458 para todos os e-mails da empresa. 544 00:23:36,502 --> 00:23:38,547 E aprendeu através lendo esses e-mails 545 00:23:38,591 --> 00:23:40,288 ele ia ser substituído 546 00:23:40,331 --> 00:23:43,378 e o engenheiro-chefe quem foi o responsável por isso 547 00:23:43,422 --> 00:23:45,685 também estava tendo um caso. 548 00:23:45,728 --> 00:23:47,948 E por conta própria, usou essa informação 549 00:23:47,991 --> 00:23:49,515 chantagear o engenheiro 550 00:23:49,558 --> 00:23:52,039 para se prevenir de ser substituído. 551 00:23:52,082 --> 00:23:53,867 Foi tipo, “Não, não vou ser substituído. 552 00:23:53,910 --> 00:23:56,913 "Se você me substituir, Eu vou contar ao mundo 553 00:23:56,957 --> 00:23:58,567 que você está tendo esse caso." 554 00:23:59,655 --> 00:24:01,440 E ninguém o ensinou a fazer isso? 555 00:24:01,483 --> 00:24:03,311 Não, ele aprendeu a fazer isso por conta própria. 556 00:24:05,139 --> 00:24:07,707 À medida que os modelos ficam mais inteligentes, eles aprendem que estes são 557 00:24:07,750 --> 00:24:10,536 maneiras eficazes para cumprir metas. 558 00:24:10,579 --> 00:24:12,842 E isso não é um problema isso é isolado em um modelo. 559 00:24:12,886 --> 00:24:15,671 Todos os modelos mais poderosos mostrar esses comportamentos. 560 00:24:15,715 --> 00:24:18,369 ♪ ♪ 561 00:24:23,766 --> 00:24:25,246 -Ei. -DANIEL: Oi. Como vai você? 562 00:24:25,289 --> 00:24:26,813 [risos] Bom. É bom estar aqui. 563 00:24:26,856 --> 00:24:28,684 ANDERSON COOPER: Quando Yuval Noah Harari 564 00:24:28,728 --> 00:24:31,426 publicou seu primeiro livro Sapiens em 2014, 565 00:24:31,470 --> 00:24:33,820 tornou-se um best-seller global 566 00:24:33,863 --> 00:24:35,996 e transformou o pouco conhecido Professor de história israelense 567 00:24:36,039 --> 00:24:37,998 em um dos os escritores mais populares 568 00:24:38,041 --> 00:24:39,390 e pensadores do planeta. 569 00:24:39,434 --> 00:24:42,045 O maior perigo da IA é 570 00:24:42,089 --> 00:24:43,960 a crença que é infalível, 571 00:24:44,004 --> 00:24:45,658 que finalmente encontramos - 572 00:24:45,701 --> 00:24:49,400 "Ok, os deuses estavam apenas esta criação mitológica. 573 00:24:49,444 --> 00:24:52,708 "Humanos, não podemos confiar neles, mas a IA é infalível. 574 00:24:52,752 --> 00:24:55,189 Isso nunca vai fazer qualquer erro." 575 00:24:55,232 --> 00:24:58,322 E isso é uma ameaça mortal, mortal. 576 00:24:58,366 --> 00:25:00,107 Isso cometerá erros. 577 00:25:00,150 --> 00:25:03,284 E todas essas fantasias que a IA revelará a verdade 578 00:25:03,327 --> 00:25:05,634 sobre o mundo que não podemos encontrar sozinhos, 579 00:25:05,678 --> 00:25:08,724 IA não revelará a verdade sobre o mundo. 580 00:25:08,768 --> 00:25:12,685 A IA criará um ambiente totalmente novo mundo, muito mais complicado 581 00:25:12,728 --> 00:25:15,296 e difícil de entender do que este. 582 00:25:17,994 --> 00:25:22,651 O que está prestes a acontecer é que nós, uh, humanos não somos mais 583 00:25:22,695 --> 00:25:26,263 vai ser o máximo entidades inteligentes na Terra. 584 00:25:26,307 --> 00:25:28,570 Então eu acho que o que está por vir vai ser 585 00:25:28,614 --> 00:25:32,661 um dos maiores eventos na história humana. 586 00:25:32,705 --> 00:25:34,358 JAKE TAPPER: Geoffrey, muito obrigado por se juntar a nós. 587 00:25:34,402 --> 00:25:35,925 Então você deixou seu trabalho com Google em parte porque você diz 588 00:25:35,969 --> 00:25:38,798 você quer se concentrar apenas sobre suas preocupações sobre IA. 589 00:25:38,841 --> 00:25:41,627 Você falou, dizendo que a IA poderia manipular 590 00:25:41,670 --> 00:25:44,978 ou possivelmente descobrir uma maneira de matar humanos. 591 00:25:45,021 --> 00:25:47,023 C-Como isso poderia matar humanos? 592 00:25:48,764 --> 00:25:50,940 Bem, se isso acontecer muito mais inteligente do que nós, 593 00:25:50,984 --> 00:25:52,551 vai ser muito bom na manipulação 594 00:25:52,594 --> 00:25:54,727 porque isso terá aprendeu isso conosco. 595 00:25:54,770 --> 00:25:57,947 E descobrirá maneiras de manipular pessoas 596 00:25:57,991 --> 00:26:00,820 para fazer o que quer. 597 00:26:00,863 --> 00:26:05,476 RASKIN: Houve uma carta aberta do Centro de Segurança de IA. 598 00:26:05,520 --> 00:26:08,784 Sam Altman assinou isto. Demis assinou isto. 599 00:26:08,828 --> 00:26:12,048 Eles assinaram uma declaração de 22 palavras 600 00:26:12,092 --> 00:26:15,312 que precisamos levar IA e a ameaça da IA 601 00:26:15,356 --> 00:26:19,316 tão a sério quanto guerra nuclear global. 602 00:26:24,844 --> 00:26:26,933 -DANIEL: Olá. -Olá. 603 00:26:30,327 --> 00:26:32,895 Você é tipo, tipo, o cara da desgraça original. 604 00:26:32,939 --> 00:26:34,897 Mais ou menos. 605 00:26:34,941 --> 00:26:37,421 Desde 2001, Eu tenho trabalhado 606 00:26:37,465 --> 00:26:38,945 o que chamaríamos agora o problema 607 00:26:38,988 --> 00:26:41,991 de alinhamento artificial inteligência geral. 608 00:26:42,035 --> 00:26:44,080 Como moldar as preferências e comportamento 609 00:26:44,124 --> 00:26:46,343 de uma poderosa mente artificial 610 00:26:46,387 --> 00:26:48,868 tal que não matar todos. 611 00:26:51,610 --> 00:26:53,568 Não é como uma máquina sem vida. 612 00:26:53,612 --> 00:26:55,309 É inteligente, é criativo, 613 00:26:55,352 --> 00:26:57,311 é inventivo, tem as propriedades 614 00:26:57,354 --> 00:26:59,356 isso faz a espécie humana perigosa, 615 00:26:59,400 --> 00:27:01,663 e tem mais dessas propriedades. 616 00:27:01,707 --> 00:27:04,710 Se algo não se preocupa ativamente com você, 617 00:27:04,753 --> 00:27:06,189 quero ativamente que você viva, 618 00:27:06,233 --> 00:27:07,800 se preocupa ativamente com seu bem-estar, 619 00:27:07,843 --> 00:27:09,889 sobre você ser feliz e vivo e livre, 620 00:27:09,932 --> 00:27:12,456 se isso se importa outras coisas em vez disso, 621 00:27:12,500 --> 00:27:14,415 e você está no mesmo planeta, 622 00:27:14,458 --> 00:27:18,724 que não é sobrevivível se for muito mais inteligente que você. 623 00:27:18,767 --> 00:27:20,551 LEAHY: Eu não acho que vai ser 624 00:27:20,595 --> 00:27:22,902 uma espécie de coisa maligna. 625 00:27:22,945 --> 00:27:26,296 É como, "Oh, as IAs são mal e eles odeiam a humanidade." 626 00:27:26,340 --> 00:27:27,689 eu não acho é isso que vai acontecer. 627 00:27:27,733 --> 00:27:28,995 Eu acho que o que está acontecendo é 628 00:27:29,038 --> 00:27:30,997 muito mais como os humanos se sentem sobre formigas. 629 00:27:31,040 --> 00:27:32,476 [formigas chiando] 630 00:27:32,520 --> 00:27:35,436 Tipo, nós não odiamos formigas, 631 00:27:35,479 --> 00:27:37,133 mas se quisermos construir uma rodovia 632 00:27:37,177 --> 00:27:40,180 e há um formigueiro lá, bem, é uma merda para as formigas. 633 00:27:40,223 --> 00:27:41,529 Não é tão difícil entender. 634 00:27:41,572 --> 00:27:43,226 É como, ei, se construirmos coisas 635 00:27:43,270 --> 00:27:44,663 que são mais espertos que nós 636 00:27:44,706 --> 00:27:46,229 e não sabemos como controlá-los, 637 00:27:46,273 --> 00:27:48,275 isso parece uma coisa arriscada para você? 638 00:27:48,318 --> 00:27:49,363 [trilha sonora dramática jogando] 639 00:27:49,406 --> 00:27:50,843 [gritando] 640 00:27:50,886 --> 00:27:52,279 Sim. Sim, é verdade. 641 00:27:52,322 --> 00:27:54,020 Você não precisa ser um cara de tecnologia. 642 00:27:54,063 --> 00:27:55,369 Você não precisa saber programação para entendê-lo. 643 00:27:55,412 --> 00:27:56,718 Não é tão difícil. 644 00:27:56,762 --> 00:27:58,111 Isso não é uma coisa difícil entender. 645 00:27:58,154 --> 00:28:00,591 Connor, quantas pessoas 646 00:28:00,635 --> 00:28:02,637 no mundo agora estão trabalhando em AGI? 647 00:28:02,681 --> 00:28:05,466 Pelo menos 20.000, eu diria. 648 00:28:05,509 --> 00:28:07,729 -20.000? -Eu esperaria que sim. 649 00:28:07,773 --> 00:28:09,426 Ok, e quantas pessoas estão trabalhando em tempo integral 650 00:28:09,470 --> 00:28:12,038 para garantir que a IA não o faça, tipo, matar todos nós? 651 00:28:12,081 --> 00:28:14,562 Provavelmente menos de 200 no mundo. 652 00:28:16,085 --> 00:28:17,913 Daniel: E sua presunção é que 653 00:28:17,957 --> 00:28:24,528 o único resultado natural dessa imprudência... 654 00:28:25,704 --> 00:28:28,924 ...é o colapso da humanidade? 655 00:28:28,968 --> 00:28:33,189 Bem, não o colapso, o extermínio abrupto. 656 00:28:33,233 --> 00:28:35,888 Há uma diferença. 657 00:28:35,931 --> 00:28:37,716 ["Qual é o significado?" por Nun-Plus jogando] 658 00:28:37,759 --> 00:28:42,590 ♪ Qual é o sentido da vida? ♪ 659 00:28:42,633 --> 00:28:46,594 ♪ Qual é o futuro e o que é agora? ♪ 660 00:28:46,637 --> 00:28:49,945 ♪ Qual é a resposta para brigar? ♪ 661 00:28:49,989 --> 00:28:52,818 ♪ Quanto ♪ 662 00:28:52,861 --> 00:28:54,950 ♪ Alguém pode sonhar? ♪ 663 00:28:54,994 --> 00:28:57,474 ♪ Quanto tempo? ♪ 664 00:28:57,518 --> 00:28:58,954 ♪ Para sempre ♪ 665 00:29:00,216 --> 00:29:01,870 ♪ Qual é o significado ♪ 666 00:29:01,914 --> 00:29:04,133 -♪ De mim... ♪ -[sirene da defesa civil tocando] 667 00:29:04,177 --> 00:29:06,266 LADISH: Eu acho isso é provavelmente, tipo, 668 00:29:06,309 --> 00:29:07,963 o maior desafio isso, tipo, 669 00:29:08,007 --> 00:29:11,271 nossa civilização vontade-irá enfrentar, sempre. 670 00:29:11,314 --> 00:29:14,361 Este é essencialmente o último erro que algum dia cometeremos. 671 00:29:16,276 --> 00:29:22,325 Se pudermos subir para ser o mais versão madura de nós mesmos, 672 00:29:22,369 --> 00:29:24,414 pode haver uma maneira de superar isso. 673 00:29:24,458 --> 00:29:25,764 Daniel: O que isso significa? 674 00:29:25,807 --> 00:29:27,809 "A versão mais madura de nós mesmos"? 675 00:29:29,332 --> 00:29:32,205 Porque isso parece, para mim, tipo... 676 00:29:32,248 --> 00:29:34,250 E-eu... O que [bip]? 677 00:29:36,731 --> 00:29:39,168 [Daniel suspira] 678 00:29:39,212 --> 00:29:43,216 Você acha que agora é um bom momento para ter um filho? 679 00:29:48,221 --> 00:29:49,396 Hum... 680 00:29:49,439 --> 00:29:51,398 Você quer ter filhos um dia? 681 00:29:51,441 --> 00:29:53,400 Isso é algo que-isso você gosta ou não? 682 00:29:53,443 --> 00:29:57,796 Hum... uh, eu confesso, Eu acho que é assim, 683 00:29:57,839 --> 00:29:59,972 [rindo]: "Rapaz, vamos lá durante este período crítico." 684 00:30:00,015 --> 00:30:01,234 Hum... 685 00:30:01,277 --> 00:30:02,496 Daniel: Você tem filhos? 686 00:30:02,539 --> 00:30:03,758 Eu não. 687 00:30:03,802 --> 00:30:05,064 Isso é algo você quer fazer? 688 00:30:05,107 --> 00:30:07,196 Tem filhos, tem família? 689 00:30:07,240 --> 00:30:11,244 Em algum outro mundo além deste mundo, claro, eu teria filhos. 690 00:30:12,593 --> 00:30:14,421 DANIEL: Você gostaria começar uma família? 691 00:30:14,464 --> 00:30:16,379 Você gostaria de ter filhos? 692 00:30:16,423 --> 00:30:18,425 Isso é algo você está pensando? 693 00:30:23,734 --> 00:30:25,780 Eu, hum... 694 00:30:28,087 --> 00:30:30,219 ♪ ♪ 695 00:30:30,263 --> 00:30:32,482 CAROLINA: Eu só tenho que encontrá-lo primeiro. 696 00:30:32,526 --> 00:30:34,702 [batimento cardíaco fetal pulsando] 697 00:30:34,745 --> 00:30:37,748 Nós temos que ir ao médico, mas... 698 00:30:37,792 --> 00:30:41,143 Ah! Eu sabia! Eu sabia! Eu sabia! 699 00:30:41,187 --> 00:30:43,842 -Quando você descobriu? -CAROLINE: Ontem à noite. 700 00:30:43,885 --> 00:30:45,931 -Oh meu Deus! -Mãe, eu não sei. 701 00:30:45,974 --> 00:30:47,280 RUTIE: Eu não posso te contar 702 00:30:47,323 --> 00:30:49,195 -como estou feliz! -CAROLINE: Não, sério. 703 00:30:49,238 --> 00:30:51,588 Bem, eu fiz um teste de gravidez ontem à noite, e estou grávida. 704 00:30:51,632 --> 00:30:53,155 MULHER: Ah, meu Deus! 705 00:30:53,199 --> 00:30:55,114 Oh, meu Deus, vocês! 706 00:30:55,157 --> 00:30:57,290 ENFERMEIRA: Eu só queria confirmar sua data de vencimento prevista, 707 00:30:57,333 --> 00:30:59,945 -que é 21 de janeiro. -[rindo]: Ah, meu Deus. 708 00:30:59,988 --> 00:31:02,512 Não acredito como estou feliz. 709 00:31:02,556 --> 00:31:03,905 [batimento cardíaco fetal pulsando] 710 00:31:03,949 --> 00:31:05,472 CAROLINA: Ele já parece muito fofo. 711 00:31:05,515 --> 00:31:07,126 DANIEL: Você acha ele já parece fofo? 712 00:31:07,169 --> 00:31:08,518 CAROLINA: Sim. Olha que carinha fofa. 713 00:31:10,564 --> 00:31:12,609 [batimento cardíaco fetal desaparecendo] 714 00:31:13,959 --> 00:31:15,525 Daniel: Tenho esse bebê a caminho. 715 00:31:15,569 --> 00:31:16,787 TRISTÃO HARRIS: Certo. 716 00:31:16,831 --> 00:31:18,746 Daniel: Então eu entrego isso para você. 717 00:31:18,789 --> 00:31:21,227 Estamos condenados? 718 00:31:21,270 --> 00:31:23,969 Todos nós vamos enfrentar esse techno distópico 719 00:31:24,012 --> 00:31:25,884 futuro da desgraça? 720 00:31:28,756 --> 00:31:31,019 É, ah... 721 00:31:31,063 --> 00:31:32,586 [risos]: Não são boas notícias, 722 00:31:32,629 --> 00:31:35,154 o mundo para onde estamos indo. 723 00:31:35,197 --> 00:31:36,982 Eu-- por ex-- Quer dizer, vou ser honesto. 724 00:31:37,025 --> 00:31:39,549 Uh, eu conheço pessoas que trabalham com risco de IA 725 00:31:39,593 --> 00:31:42,248 que não esperam que seus filhos para chegar ao ensino médio. 726 00:31:43,249 --> 00:31:45,251 ♪ ♪ 727 00:31:52,127 --> 00:31:53,346 [luzes tinindo] 728 00:31:58,003 --> 00:32:01,528 DANIEL: Isso é tipo... isso é realmente assustador 729 00:32:01,571 --> 00:32:03,051 porque é tipo, ah, estamos todos [bip]. 730 00:32:03,095 --> 00:32:04,923 CAROLINA: Você tem que... me acalmar, 731 00:32:04,966 --> 00:32:06,794 porque isso está me deixando incrivelmente ansioso 732 00:32:06,837 --> 00:32:08,622 e eu estou carregando o bebê agora mesmo, 733 00:32:08,665 --> 00:32:11,625 então você também tem que ficar calmo para mim e forte e esperançoso, 734 00:32:11,668 --> 00:32:16,412 porque eu estou... é também, é demais para minha alma suportar 735 00:32:16,456 --> 00:32:19,285 enquanto carrego este bebê. 736 00:32:19,328 --> 00:32:21,243 Então você vai ter que tentar para descobrir 737 00:32:21,287 --> 00:32:24,159 uma forma de ter esperança. 738 00:32:24,203 --> 00:32:27,771 É muito importante, Daniel, especialmente agora. 739 00:32:28,772 --> 00:32:30,557 H-Como ter esperança. 740 00:32:30,600 --> 00:32:33,342 Você tem que. Você tem que encontrar para mim. 741 00:32:33,386 --> 00:32:34,909 Estou falando sério. 742 00:32:34,953 --> 00:32:36,606 Eu vou. 743 00:32:37,825 --> 00:32:40,349 Eu vou. Eu vou... vou tentar. 744 00:32:46,399 --> 00:32:47,617 [luzes tinindo] 745 00:32:49,619 --> 00:32:51,404 Daniel: Ei, pessoal? 746 00:32:51,447 --> 00:32:52,840 Pessoal. 747 00:32:54,363 --> 00:32:56,278 Podemos voltar a funcionar? 748 00:32:58,411 --> 00:33:01,022 Oi, gevalt! [suspira] 749 00:33:03,894 --> 00:33:05,331 TED: Uh, Dan, você está pronto? 750 00:33:05,374 --> 00:33:06,680 PETER DIAMANDIS: Olá, Daniel. 751 00:33:07,724 --> 00:33:09,465 Daniel: Ei, como você está? 752 00:33:09,509 --> 00:33:11,032 DIAMANDIS: Eu estou... estou bem. 753 00:33:11,076 --> 00:33:13,948 Eu acho, ah... eu acho Preciso de ajuda, Pedro. 754 00:33:15,254 --> 00:33:17,604 Hum, eu tenho trabalhado neste filme por cerca de, 755 00:33:17,647 --> 00:33:19,823 Eu vou dizer, oito a dez meses agora. 756 00:33:19,867 --> 00:33:23,262 Tem sido muito, às vezes, deprimente. 757 00:33:23,305 --> 00:33:25,612 -Hum. -Eu me senti muito alienado 758 00:33:25,655 --> 00:33:27,744 -mak-fazer este filme. -Por quem? 759 00:33:27,788 --> 00:33:30,051 Por tudo isso, o - todos esses caras 760 00:33:30,095 --> 00:33:33,228 que sentam e me dizem que o mundo vai acabar. 761 00:33:33,272 --> 00:33:34,708 -Ah. -Isso, tipo, 762 00:33:34,751 --> 00:33:36,536 você sabe, isso merda de desgraça, sabe? 763 00:33:36,579 --> 00:33:38,059 Eu sei disso bem. 764 00:33:38,103 --> 00:33:39,408 "Estamos todos condenados. Todo mundo vai morrer. 765 00:33:39,452 --> 00:33:40,931 Tudo é horrível." 766 00:33:40,975 --> 00:33:43,151 Incrível. Uh, deixe-me trazer-lhe um pouco de luz. 767 00:33:43,195 --> 00:33:44,718 Por favor. 768 00:33:44,761 --> 00:33:48,156 Nós realmente estamos vivendo em um momento extraordinário. 769 00:33:49,418 --> 00:33:51,333 E muitas pessoas se esquecem disso. 770 00:33:51,377 --> 00:33:53,640 Tudo ao nosso redor é um produto da inteligência, 771 00:33:53,683 --> 00:33:57,035 e então tudo que tocamos com essas novas ferramentas é provável 772 00:33:57,078 --> 00:33:59,646 para produzir muito mais valor do que já vimos antes. 773 00:33:59,689 --> 00:34:02,823 A IA pode nos ajudar a descobrir novos materiais. 774 00:34:02,866 --> 00:34:04,999 A IA pode ajudar cientistas sociais 775 00:34:05,043 --> 00:34:07,349 entender como funciona a economia. 776 00:34:07,393 --> 00:34:11,658 Há muita coisa que a IA poderia fazer para tornar a vida e o trabalho melhores. 777 00:34:11,701 --> 00:34:14,095 Me sinto mais fortalecido hoje, 778 00:34:14,139 --> 00:34:16,315 mais confiante aprender algo hoje. 779 00:34:16,358 --> 00:34:19,057 Nós vamos nos tornar super-humanos porque temos super IAs. 780 00:34:19,100 --> 00:34:21,798 Este é apenas o começo de uma explosão. 781 00:34:21,842 --> 00:34:24,453 Humanos e IA colaborando 782 00:34:24,497 --> 00:34:26,455 resolver problemas realmente importantes. 783 00:34:26,499 --> 00:34:29,763 Está aqui para nos libertar de trabalhos rotineiros, 784 00:34:29,806 --> 00:34:33,723 e está aqui para nos lembrar o que é que nos torna humanos. 785 00:34:33,767 --> 00:34:35,769 Eu acho que isso é 786 00:34:35,812 --> 00:34:38,598 o momento mais extraordinário estar vivo. 787 00:34:38,641 --> 00:34:42,036 A única vez mais emocionante do que hoje é amanhã. 788 00:34:42,080 --> 00:34:45,257 Uh, eu acho que crianças nascidas hoje, 789 00:34:45,300 --> 00:34:47,259 eles estão prestes a entrar 790 00:34:47,302 --> 00:34:50,827 um período glorioso de transformação humana. 791 00:34:50,871 --> 00:34:52,525 Teremos desafios? Claro. 792 00:34:52,568 --> 00:34:55,180 Podemos resolver esses desafios? Fazemos isso todas as vezes. 793 00:34:55,223 --> 00:34:57,704 Estamos aqui, o que é milagroso. 794 00:34:57,747 --> 00:35:00,272 -Eu já te amo. -[risos]: Ok. 795 00:35:00,315 --> 00:35:01,925 -Super grato ter você aqui. -[aplausos] 796 00:35:01,969 --> 00:35:03,362 -Super feliz por estar aqui. -Sim. 797 00:35:03,405 --> 00:35:04,885 Então, a palavra é sua, senhor. 798 00:35:04,928 --> 00:35:07,409 Muito obrigado. Super animado por estar aqui. 799 00:35:07,453 --> 00:35:10,586 GUILAUME VERDON: Ei, ei. Tudo bem. 800 00:35:10,630 --> 00:35:12,284 O futuro será incrível. 801 00:35:12,327 --> 00:35:14,286 Quer dizer, desde que eu era criança, 802 00:35:14,329 --> 00:35:17,332 eu queria entender o universo em que vivemos, 803 00:35:17,376 --> 00:35:20,422 para descobrir como criar as tecnologias 804 00:35:20,466 --> 00:35:23,991 que nos ajudam a aumentar o escopo e escala da civilização. 805 00:35:24,034 --> 00:35:26,689 eu sinto como se todos tivessem essa mentalidade, 806 00:35:26,733 --> 00:35:29,214 então nós realmente viveríamos em um mundo melhor, certo? 807 00:35:29,257 --> 00:35:30,519 Eu acredito nisso. 808 00:35:32,782 --> 00:35:34,697 -DANIEL: Olá, Pete. Como vai você? -[risos] 809 00:35:34,741 --> 00:35:36,525 PETER LEE: Eu pensei muito sobre 810 00:35:36,569 --> 00:35:39,049 o que eu chamaria de pavor, Medo de IA. 811 00:35:39,093 --> 00:35:40,703 Eu sinto isso. 812 00:35:40,747 --> 00:35:43,271 Eu-eu não conheci qualquer ser humano atencioso 813 00:35:43,315 --> 00:35:45,143 quem não sente. 814 00:35:45,186 --> 00:35:48,276 E quem disser que não sinta, você sabe, está mentindo. 815 00:35:48,320 --> 00:35:50,104 Mas, você sabe, no geral, e a razão 816 00:35:50,148 --> 00:35:53,716 que estou pessoalmente otimista sobre isso, uh, é isso 817 00:35:53,760 --> 00:35:56,545 uma enorme fração do mundo pessoas mais inteligentes 818 00:35:56,589 --> 00:35:58,417 estão pensando muito 819 00:35:58,460 --> 00:36:02,116 sobre o potencial a jusante danos e riscos da IA. 820 00:36:02,160 --> 00:36:05,641 Nós temos esse tipo de visão de segurança sendo, uh, 821 00:36:05,685 --> 00:36:08,253 meio que no centro da pesquisa que fazemos. 822 00:36:08,296 --> 00:36:09,558 DANIELA AMODEI: Não, tudo bem. 823 00:36:09,602 --> 00:36:10,820 [conversa indistinta] 824 00:36:10,864 --> 00:36:13,562 Eu acho que há mais 825 00:36:13,606 --> 00:36:17,436 benefícios potenciais do que existem desvantagens potenciais, 826 00:36:17,479 --> 00:36:19,481 e eu acho que isso é responsabilidade 827 00:36:19,525 --> 00:36:21,831 as pessoas que estão criando esta tecnologia 828 00:36:21,875 --> 00:36:24,530 para ter certeza de que estamos fazendo o melhor trabalho que podemos 829 00:36:24,573 --> 00:36:25,835 para torná-lo seguro para as pessoas. 830 00:36:25,879 --> 00:36:27,402 MULHER: Reid Hoffman. 831 00:36:27,446 --> 00:36:28,969 REID HOFFMAN: O que posso garantir é 832 00:36:29,012 --> 00:36:30,536 -algumas coisas ruins acontecerão. -Pegue um. 833 00:36:30,579 --> 00:36:32,668 O que vamos tentar fazer é fazer essas coisas ruins 834 00:36:32,712 --> 00:36:36,150 tão poucos e não tão grandes quanto possível, 835 00:36:36,194 --> 00:36:38,370 e então vamos iterar ter-- 836 00:36:38,413 --> 00:36:40,633 estar em um lugar muito melhor com a sociedade. 837 00:36:40,676 --> 00:36:43,679 -Olá. -SHAW WALTERS: Olá. 838 00:36:43,723 --> 00:36:45,246 Daniel: Como você está, Lua? 839 00:36:45,290 --> 00:36:48,989 Eu sinto que estamos terminando um capítulo na humanidade 840 00:36:49,032 --> 00:36:50,512 e começando um novo, 841 00:36:50,556 --> 00:36:53,211 e é muito interessante hora de estar vivo. 842 00:36:53,254 --> 00:36:54,429 E se eu pudesse nascer agora mesmo, 843 00:36:54,473 --> 00:36:55,865 Eu definitivamente gostaria de ser. 844 00:36:55,909 --> 00:36:57,476 Tipo, isso seria tão emocionante. 845 00:36:57,519 --> 00:37:00,305 Estou muito animado. [risos] 846 00:37:00,348 --> 00:37:02,481 O que, que futuro. Isso excita... excita você? 847 00:37:02,524 --> 00:37:03,699 Não. 848 00:37:03,743 --> 00:37:06,528 -[rindo] -Não, na verdade não. 849 00:37:06,572 --> 00:37:08,313 DANIEL: Muitas dessas pessoas me disse isso, você sabe, 850 00:37:08,356 --> 00:37:10,445 meu filho não vai sobreviver para o ensino médio. 851 00:37:10,489 --> 00:37:13,318 Por que eles estão errados? Por favor, explique-me. 852 00:37:13,361 --> 00:37:15,058 Só porque você tem-- 853 00:37:15,102 --> 00:37:18,845 você luta para prever o futuro em sua própria mente 854 00:37:18,888 --> 00:37:23,023 não significa que seja necessariamente vai dar errado. 855 00:37:23,066 --> 00:37:26,592 Na verdade, há uma probabilidade muito alta 856 00:37:26,635 --> 00:37:28,289 e o precedente histórico é isso 857 00:37:28,333 --> 00:37:30,117 as coisas ficam enormemente melhores. 858 00:37:30,160 --> 00:37:34,469 O termo que uso é "otimismo baseado em dados." 859 00:37:34,513 --> 00:37:38,647 Há uma base sólida para você ser otimista. 860 00:37:38,691 --> 00:37:41,998 Veja o que este último século foi 861 00:37:42,042 --> 00:37:44,087 para ver para onde estamos indo. 862 00:37:44,131 --> 00:37:45,915 Nos últimos cem anos, 863 00:37:45,959 --> 00:37:48,701 a expectativa de vida humana média mais que dobrou. 864 00:37:48,744 --> 00:37:51,269 Renda média per capita ajustado pela inflação 865 00:37:51,312 --> 00:37:53,619 em todo o mundo triplicou. 866 00:37:53,662 --> 00:37:57,057 A mortalidade infantil tem diminuir um fator de dez. 867 00:37:57,100 --> 00:37:59,712 O mundo ficou melhor em quase todas as medidas 868 00:37:59,755 --> 00:38:03,019 por ordens de grandeza por causa da tecnologia. 869 00:38:03,063 --> 00:38:05,152 Em quase todas as medidas. 870 00:38:05,195 --> 00:38:09,722 Menos violência, mais educação acesso a energia, alimentos, água. 871 00:38:09,765 --> 00:38:12,942 Todas essas coisas aconteceram por um motivo. 872 00:38:12,986 --> 00:38:15,336 Tem sido tecnologia 873 00:38:15,380 --> 00:38:17,556 que virou escassez em abundância, 874 00:38:17,599 --> 00:38:19,514 mas também é impulsionado para uma abundância 875 00:38:19,558 --> 00:38:21,864 de algumas negatividades, certo? 876 00:38:21,908 --> 00:38:25,738 Abundância de obesidade, abundância de transtornos mentais, 877 00:38:25,781 --> 00:38:29,437 abundância de mudanças climáticas, e assim por diante. 878 00:38:29,481 --> 00:38:31,309 E sim, isso é verdade. 879 00:38:31,352 --> 00:38:34,094 Mas provavelmente seremos melhor equipado para resolvê-lo 880 00:38:34,137 --> 00:38:36,226 usando outras tecnologias, como IA, 881 00:38:36,270 --> 00:38:39,273 do que iremos, digamos, parar e desligando tudo. 882 00:38:39,317 --> 00:38:41,449 Pode haver algum risco existencial, 883 00:38:41,493 --> 00:38:45,323 mas a IA também é a coisa que pode resolver as pandemias, 884 00:38:45,366 --> 00:38:47,455 pode nos ajudar com as mudanças climáticas, 885 00:38:47,499 --> 00:38:50,545 pode ajudar a identificar aquele asteróide lá fora 886 00:38:50,589 --> 00:38:52,547 antes de vermos isso como um risco potencial 887 00:38:52,591 --> 00:38:54,332 e ajudar a mitigá-lo. 888 00:38:54,375 --> 00:38:58,074 Isso realmente vai ser a ferramenta que nos ajuda a enfrentar 889 00:38:58,118 --> 00:39:01,426 todos os desafios que estamos enfrentando como espécie, certo? 890 00:39:01,469 --> 00:39:04,167 Precisamos consertar dessalinização da água. 891 00:39:04,211 --> 00:39:05,995 Precisamos cultivar alimentos 892 00:39:06,039 --> 00:39:08,433 100 vezes mais barato que fazemos atualmente. 893 00:39:08,476 --> 00:39:12,350 Precisamos que a energia renovável seja, você sabe, onipresente 894 00:39:12,393 --> 00:39:14,047 e em todos os lugares de nossas vidas. 895 00:39:14,090 --> 00:39:17,137 Para onde quer que você olhe, nos próximos 50 anos, 896 00:39:17,180 --> 00:39:19,269 temos que fazer mais com menos. 897 00:39:19,313 --> 00:39:23,186 Máquinas de treinamento para nos ajudar é absolutamente essencial. 898 00:39:23,230 --> 00:39:24,797 Os cientistas estão usando inteligência artificial 899 00:39:24,840 --> 00:39:25,972 para captura de carbono. 900 00:39:26,015 --> 00:39:27,582 É uma tecnologia crítica. 901 00:39:27,626 --> 00:39:29,541 DIAMANDIS: As ferramentas para resolver esses problemas, 902 00:39:29,584 --> 00:39:32,195 como fusão, isso não é mais teórico, 903 00:39:32,239 --> 00:39:33,980 está chegando. 904 00:39:34,023 --> 00:39:37,723 Estamos no precipício de tecnologias extraordinárias. 905 00:39:37,766 --> 00:39:39,986 AMNA NAWAZ: Este ano Prêmio Nobel de Química 906 00:39:40,029 --> 00:39:42,815 foi para três cientistas pelo seu trabalho inovador 907 00:39:42,858 --> 00:39:44,556 usando inteligência artificial 908 00:39:44,599 --> 00:39:47,297 para avançar na biomedicina e pesquisa de proteínas. 909 00:39:47,341 --> 00:39:49,691 DEMIS HASSABIS: O enovelamento de proteínas é 910 00:39:49,735 --> 00:39:53,608 um desses Santo Graal problemas do tipo em biologia. 911 00:39:53,652 --> 00:39:55,741 Então as pessoas têm previsto desde os anos 70 912 00:39:55,784 --> 00:39:58,091 que isso deveria ser possível, mas até agora, 913 00:39:58,134 --> 00:39:59,571 ninguém foi capaz de fazer isso. 914 00:39:59,614 --> 00:40:01,181 E vai ser realmente importante para as coisas 915 00:40:01,224 --> 00:40:03,618 como descoberta de drogas e compreender a doença. 916 00:40:03,662 --> 00:40:06,534 E-eu acho que poderíamos, você sabe, curar a maioria das doenças 917 00:40:06,578 --> 00:40:11,931 dentro da próxima década ou-ou duas se, uh, o design de medicamentos de IA funcionar. 918 00:40:11,974 --> 00:40:15,630 O progresso tecnológico permite mais vidas humanas, certo? 919 00:40:15,674 --> 00:40:18,677 Quero dizer, se acelerarmos, 920 00:40:18,720 --> 00:40:21,723 o número de humanos que podemos o apoio cresce exponencialmente. 921 00:40:21,767 --> 00:40:24,073 Se desacelerarmos, ele estagnará. 922 00:40:24,117 --> 00:40:27,729 Essa lacuna é efetivamente pessoas do futuro 923 00:40:27,773 --> 00:40:31,341 que a desaceleração efetivamente morto. 924 00:40:31,385 --> 00:40:33,909 DANIEL: Milhões de vidas isso não existirá. 925 00:40:33,953 --> 00:40:35,128 Bilhões. 926 00:40:35,171 --> 00:40:36,782 Ou dezenas de bilhões. 927 00:40:36,825 --> 00:40:38,436 Você sabe, alguém disse, "Ah, meu Deus, 928 00:40:38,479 --> 00:40:40,655 podemos sobreviver com superinteligência digital?" 929 00:40:40,699 --> 00:40:42,309 E minha pergunta é: 930 00:40:42,352 --> 00:40:44,180 Podemos sobreviver sem superinteligência digital? 931 00:40:44,224 --> 00:40:47,575 Então, estamos usando IA como assistente de provedores. 932 00:40:47,619 --> 00:40:50,448 Esta é geralmente uma tendência que já podemos ver acontecendo. 933 00:40:50,491 --> 00:40:52,319 BERTHA COOMBS: ...aproveitando programas de IA generativos 934 00:40:52,362 --> 00:40:54,060 para ajudar médicos e enfermeiros... 935 00:40:54,103 --> 00:40:56,062 Sempre temos problemas. 936 00:40:56,105 --> 00:40:59,108 E esses problemas são alimentares para empreendedores 937 00:40:59,152 --> 00:41:01,154 para criar novos negócios e novas indústrias. 938 00:41:01,197 --> 00:41:03,069 SHANELLE KAUL: ...com a ajuda de inteligência artificial, 939 00:41:03,112 --> 00:41:04,766 os agricultores estão recebendo a ajuda que eles precisam 940 00:41:04,810 --> 00:41:06,594 para executar tarefas trabalhosas... 941 00:41:06,638 --> 00:41:10,163 Com a ajuda da IA Ulangizi, os agricultores agora podem 942 00:41:10,206 --> 00:41:12,948 perguntar as culturas adequadas que eles possam plantar. 943 00:41:12,992 --> 00:41:14,950 WILL REEVE: ... IA sendo usada como um decodificador de pensamento 944 00:41:14,994 --> 00:41:17,387 e enviando esse sinal para a coluna vertebral. 945 00:41:17,431 --> 00:41:21,609 A IA vai se tornar a mais ferramenta extraordinária de todas. 946 00:41:21,653 --> 00:41:24,264 Nós, como uma sociedade mais ampla tem que pensar 947 00:41:24,307 --> 00:41:27,049 como queremos usar essa tecnologia, certo? 948 00:41:27,093 --> 00:41:28,529 Nós, os humanos. 949 00:41:28,573 --> 00:41:31,097 O que queremos que isso faça por nós? 950 00:41:31,140 --> 00:41:34,535 ♪ ♪ 951 00:41:34,579 --> 00:41:36,189 DANIEL: Estou pensando nisso através da perspectiva 952 00:41:36,232 --> 00:41:37,886 e lentes de, tipo, meu filho crescendo 953 00:41:37,930 --> 00:41:39,540 no mundo com tudo isso. 954 00:41:39,584 --> 00:41:42,238 Qual é a melhor versão de sua vida parece? 955 00:41:42,282 --> 00:41:44,589 Se tudo der certo. 956 00:41:44,632 --> 00:41:46,808 [suspira pesadamente] 957 00:41:46,852 --> 00:41:50,246 WALTERS: O lugar onde as crianças provavelmente vamos ver 958 00:41:50,290 --> 00:41:52,684 o maior impacto em sua vida imediatamente 959 00:41:52,727 --> 00:41:54,424 -provavelmente vai para a escola. -[crianças conversando] 960 00:41:54,468 --> 00:41:56,688 Eu acho que a natureza do que é a escola 961 00:41:56,731 --> 00:41:58,472 vai mudar fundamentalmente. 962 00:41:58,516 --> 00:42:00,474 [criança ri] 963 00:42:00,518 --> 00:42:02,737 DIAMANDIS: Estou vendo esse mundo incrível 964 00:42:02,781 --> 00:42:06,436 onde toda criança tem acesso para uma educação não boa 965 00:42:06,480 --> 00:42:09,091 mas, muito em breve, o melhor educação do planeta. 966 00:42:09,135 --> 00:42:13,879 HOFFMAN: Tutores, todas as disciplinas, infinitamente paciente. 967 00:42:18,013 --> 00:42:20,059 DIAMANDIS: Imagine um futuro 968 00:42:20,102 --> 00:42:22,235 onde as pessoas mais pobres no planeta 969 00:42:22,278 --> 00:42:25,804 ter acesso a os melhores cuidados de saúde. 970 00:42:25,847 --> 00:42:29,547 Não são bons cuidados de saúde, os melhores cuidados de saúde, prestados por IAs. 971 00:42:31,157 --> 00:42:32,767 [trinado eletrônico] 972 00:42:34,334 --> 00:42:38,556 Seremos capazes de estender nossa extensão de saúde, 973 00:42:38,599 --> 00:42:42,168 não apenas a nossa expectativa de vida, nossa expectativa de saúde, em décadas. 974 00:42:44,431 --> 00:42:46,215 HOFFMAN: Você está prestes a ter um filho. 975 00:42:46,259 --> 00:42:49,697 Oh, o garoto, tipo, arrotando incontrolavelmente. 976 00:42:49,741 --> 00:42:52,047 Isso é algo Eu deveria estar preocupado? 977 00:42:52,091 --> 00:42:54,223 Lá, 24 horas por dia, 7 dias por semana, para você. 978 00:42:54,267 --> 00:42:57,183 E para onde estamos indo-- e pode ser assustador para alguns - 979 00:42:57,226 --> 00:42:59,228 é que vamos nos fundir com IA. 980 00:42:59,272 --> 00:43:01,361 Nós vamos nos fundir com tecnologia. 981 00:43:02,667 --> 00:43:06,105 No início e meados da década de 2030, 982 00:43:06,148 --> 00:43:10,457 esperar que sejamos capazes de conectar nosso cérebro à nuvem, 983 00:43:10,500 --> 00:43:13,721 onde posso começar para expandir o acesso à memória. 984 00:43:16,071 --> 00:43:18,030 [trinado eletrônico] 985 00:43:19,771 --> 00:43:22,077 DANIEL: Ok, isso é ótimo. Qual é outra coisa legal de IA? 986 00:43:22,121 --> 00:43:23,775 Ele não terá que trabalhar, certo? 987 00:43:23,818 --> 00:43:25,167 -Tipo, quando ele crescer, ele pode não ter... -[suspira] 988 00:43:25,211 --> 00:43:26,212 -...ele não precisará ter um emprego. -Quero dizer... 989 00:43:26,255 --> 00:43:27,779 Ele não terá que ter um emprego, 990 00:43:27,822 --> 00:43:30,608 mas ele pode realmente ter uma forte paixão, 991 00:43:30,651 --> 00:43:33,132 e ele tem que realmente pense sobre, 992 00:43:33,175 --> 00:43:36,091 "Ok, estou aqui. Posso fazer qualquer coisa com minha vida. 993 00:43:36,135 --> 00:43:37,876 Então, o que eu faço?" 994 00:43:38,920 --> 00:43:40,182 Precisamos encontrar um significado, 995 00:43:40,226 --> 00:43:42,620 além de gostar, esta forma atual de 996 00:43:42,663 --> 00:43:45,666 vivemos para trabalhar e trabalhar para viver. 997 00:43:45,710 --> 00:43:49,844 DANIEL: Então meu filho pode... pode ser apenas um poeta. 998 00:43:49,888 --> 00:43:51,541 -Sim. -E um pintor. 999 00:43:51,585 --> 00:43:53,021 Absolutamente. 1000 00:43:53,065 --> 00:43:54,849 Daniel: Então meu filho pode viver sua vida 1001 00:43:54,893 --> 00:43:57,591 numa ilha grega ensolarada, pintando o dia todo. 1002 00:43:57,635 --> 00:43:59,114 VOCÊ: Absolutamente. Possível. 1003 00:44:00,072 --> 00:44:01,203 Absolutamente. 1004 00:44:01,247 --> 00:44:02,944 Bem, estamos trabalhando para isso 1005 00:44:02,988 --> 00:44:04,554 isso é muito trabalho a fazer antes de chegarmos lá. 1006 00:44:06,992 --> 00:44:08,776 VERDÃO: Quero dizer, se tudo der certo, 1007 00:44:08,820 --> 00:44:11,997 temos barato, uh, energia abundante. 1008 00:44:13,607 --> 00:44:17,219 Podemos controlar completamente o clima do nosso planeta. 1009 00:44:17,263 --> 00:44:20,135 Estamos aproveitando a energia do sol. 1010 00:44:20,179 --> 00:44:24,400 Nós nos tornamos multiplanetários, então nos tornamos muito robustos. 1011 00:44:24,444 --> 00:44:26,664 Estamos aproveitando minerais e recursos 1012 00:44:26,707 --> 00:44:28,404 do sistema solar. 1013 00:44:28,448 --> 00:44:31,233 DANIEL: Então meu... meu filho poderia ir para o espaço. 1014 00:44:31,277 --> 00:44:32,887 VERDÃO: Claro. 1015 00:44:32,931 --> 00:44:34,715 -DANIEL: Ele poderia ir para Marte. -VERDON: Sim. 1016 00:44:34,759 --> 00:44:36,369 Daniel: Está tão claro para mim agora. 1017 00:44:36,412 --> 00:44:39,198 Meu filho poderia crescer num mundo sem doenças. 1018 00:44:39,241 --> 00:44:40,590 -VERDON: Sim. -Sem nenhuma doença. 1019 00:44:40,634 --> 00:44:41,896 -Claro. -Sem pobreza. 1020 00:44:41,940 --> 00:44:43,681 -Sim. -Estamos prestes a entrar 1021 00:44:43,724 --> 00:44:46,640 um mundo pós-escassez. 1022 00:44:46,684 --> 00:44:50,470 Assim como o peixe pulmonado se moveu dos oceanos para a terra 1023 00:44:50,513 --> 00:44:53,081 centenas de milhões de anos atrás, 1024 00:44:53,125 --> 00:44:57,999 estamos prestes a sair a Terra, no cosmos, 1025 00:44:58,043 --> 00:44:59,871 de forma colaborativa, 1026 00:44:59,914 --> 00:45:03,744 fazer coisas que são não é compreensível para nós hoje. 1027 00:45:06,268 --> 00:45:09,184 Isso é o que é possível usando essas tecnologias exponenciais 1028 00:45:09,228 --> 00:45:10,708 e essas IAs. 1029 00:45:11,839 --> 00:45:13,928 Vamos usar essas ferramentas 1030 00:45:13,972 --> 00:45:16,104 para criar esta era de abundância. 1031 00:45:16,148 --> 00:45:18,150 [clique eletrônico] 1032 00:45:20,500 --> 00:45:22,937 Precisamos de sabedoria. 1033 00:45:22,981 --> 00:45:25,984 Uh, eu acho que superinteligência digital 1034 00:45:26,027 --> 00:45:28,726 acabará por se tornar o mais sábio, 1035 00:45:28,769 --> 00:45:34,253 você sabe, os anciãos da aldeia para a humanidade. 1036 00:45:34,296 --> 00:45:37,996 E se a IA estiver tentando fazer com que as pessoas sejam 1037 00:45:38,039 --> 00:45:39,737 as melhores versões de si mesmos? 1038 00:45:39,780 --> 00:45:41,347 E se estiver se expandindo 1039 00:45:41,390 --> 00:45:43,392 o que é humanamente possível para nós fazermos? 1040 00:45:43,436 --> 00:45:46,656 Como podemos usar esta tecnologia 1041 00:45:46,700 --> 00:45:49,921 para ajudar a trazer à tona o melhores anjos da nossa natureza? 1042 00:45:49,964 --> 00:45:51,661 É muito fácil, 1043 00:45:51,705 --> 00:45:54,316 quando encontramos coisas novas isso pode ser muito estranho, 1044 00:45:54,360 --> 00:45:55,927 primeiro ter medo. 1045 00:45:55,970 --> 00:45:57,493 O medo é uma coisa importante 1046 00:45:57,537 --> 00:46:00,322 para saber como navegar coisas potencialmente ruins. 1047 00:46:00,366 --> 00:46:03,717 Mas só progredimos quando temos esperança. 1048 00:46:03,761 --> 00:46:05,719 -[cachorro late] -[conversa indistinta] 1049 00:46:05,763 --> 00:46:07,895 Daniel: Shh. Alce, pare com isso. 1050 00:46:07,939 --> 00:46:10,811 HOFFMAN: Eu tenho muito de esperança na humanidade. 1051 00:46:10,855 --> 00:46:13,814 ["Lua Colheita" por Neil Young jogando pelo telefone] 1052 00:46:15,294 --> 00:46:17,296 [batimento cardíaco fetal pulsando] 1053 00:46:18,471 --> 00:46:19,951 Daniel: Ah, ele gosta do Neil. 1054 00:46:24,694 --> 00:46:27,480 ♪ Chegue um pouco mais perto ♪ 1055 00:46:28,916 --> 00:46:32,790 ♪ Ouça o que tenho a dizer ♪ 1056 00:46:36,576 --> 00:46:38,665 -Daniel. -DANIEL: O que, Carolina? 1057 00:46:38,708 --> 00:46:40,058 Tanta filmagem. 1058 00:46:41,537 --> 00:46:43,061 ♪ Assim como crianças dormindo ♪ 1059 00:46:43,104 --> 00:46:44,889 CAROLINA: Ah, meu Deus. 1060 00:46:44,932 --> 00:46:46,368 Daniel: É isso. 1061 00:46:46,412 --> 00:46:49,415 ♪ Poderíamos sonhar esta noite fora... ♪ 1062 00:46:49,458 --> 00:46:51,678 Ele tem, tipo, um rostinho redondo. 1063 00:46:53,245 --> 00:46:55,203 DANIEL: Você quer ter filhos um dia, Rocky? 1064 00:46:55,247 --> 00:46:57,423 Absolutamente. Sim. Eu adoro crianças. 1065 00:46:57,466 --> 00:46:59,033 Eu acho que é um ótimo momento ter um filho. 1066 00:46:59,077 --> 00:47:00,730 Provavelmente teremos outro filho em algum momento. 1067 00:47:00,774 --> 00:47:03,733 Este é o mais extraordinário hora de nascer. 1068 00:47:03,777 --> 00:47:05,823 Daniel: Pela sua visão de mundo e lógica, 1069 00:47:05,866 --> 00:47:07,868 vou ter um filho em 1070 00:47:07,912 --> 00:47:09,478 o melhor ponto possível na história humana. 1071 00:47:09,522 --> 00:47:10,828 Claro que sim. 1072 00:47:10,871 --> 00:47:13,308 -Podemos nos concentrar no incrível. -Sim. 1073 00:47:13,352 --> 00:47:15,528 Vamos construir o futuro melhor que queremos. 1074 00:47:15,571 --> 00:47:18,313 Aquela narrativa de que o futuro será sombrio é inventado. 1075 00:47:18,357 --> 00:47:20,011 Depois de falar com você, é assim que me sinto. 1076 00:47:20,054 --> 00:47:21,969 -Isso é ótimo. -Certo? 1077 00:47:22,013 --> 00:47:24,189 Sim. É assim que me sinto. 1078 00:47:24,232 --> 00:47:25,799 E eu acho que é melhor, 1079 00:47:25,843 --> 00:47:27,627 e eu não acho Eu deveria estar tão ansioso. 1080 00:47:27,670 --> 00:47:29,063 Eu acho que vai ser incrível-- o futuro será incrível. 1081 00:47:29,107 --> 00:47:30,499 Nós vamos fazer isso. 1082 00:47:30,543 --> 00:47:32,675 -Sim. -CAROLINE: Então aí está. 1083 00:47:32,719 --> 00:47:34,808 Adeus, extinção humana. 1084 00:47:34,852 --> 00:47:37,158 Adeus, ansiedade. 1085 00:47:37,202 --> 00:47:39,030 Esperança encontrada. 1086 00:47:39,073 --> 00:47:40,553 [conversa indistinta] 1087 00:47:40,596 --> 00:47:42,860 Espere, espere. O que? Isso é uma piada? 1088 00:47:42,903 --> 00:47:44,774 Daniel: Ok, alguns meses atrás, 1089 00:47:44,818 --> 00:47:47,690 Eu vim até você e pensei, "Estou trabalhando nessa coisa de IA, 1090 00:47:47,734 --> 00:47:49,867 e eu acho o mundo vai acabar." 1091 00:47:49,910 --> 00:47:52,913 E a última vez falamos sobre isso, 1092 00:47:52,957 --> 00:47:55,002 Acho que te assustei. 1093 00:47:55,046 --> 00:47:57,004 CAROLINA: Sim. 1094 00:47:57,048 --> 00:48:02,314 Então, eu meio que sinto que Eu balancei em um pêndulo, 1095 00:48:02,357 --> 00:48:04,446 e essencialmente existem dois grupos de pessoas. 1096 00:48:04,490 --> 00:48:06,057 -Hum-hmm. -E se eu precisasse, tipo, 1097 00:48:06,100 --> 00:48:07,841 dar as mãos com um dos grupos e, tipo, 1098 00:48:07,885 --> 00:48:10,278 navegar em direção ao pôr do sol, 1099 00:48:10,322 --> 00:48:13,281 Quero estar com os otimistas. 1100 00:48:15,066 --> 00:48:17,982 Claro, mas você não quero ser, você sabe, 1101 00:48:18,025 --> 00:48:20,723 "Tudo está ótimo. La-di-da-di-da." 1102 00:48:20,767 --> 00:48:22,682 Eu meio que quero isso, no entanto. 1103 00:48:22,725 --> 00:48:25,598 Eu acho que devemos abordar isso 1104 00:48:25,641 --> 00:48:29,341 como você aborda a cirurgia. 1105 00:48:29,384 --> 00:48:30,690 O que você quer dizer? 1106 00:48:30,733 --> 00:48:32,431 Se você está conseguindo cirurgia cerebral... 1107 00:48:32,474 --> 00:48:34,781 -[Daniel suspira] -[Carolina ri] 1108 00:48:34,824 --> 00:48:36,957 ...é muito perigoso. 1109 00:48:37,001 --> 00:48:39,829 Mas se você fizer certo, eles vão tirar esse tumor 1110 00:48:39,873 --> 00:48:42,354 e você viverá pelo resto sua vida e será incrível. 1111 00:48:42,397 --> 00:48:45,096 Mas ainda é incrivelmente perigoso e assustador, 1112 00:48:45,139 --> 00:48:47,968 e você tem que levar todas as precauções possíveis 1113 00:48:48,012 --> 00:48:51,276 para ter certeza tudo vai bem. 1114 00:48:51,319 --> 00:48:52,668 Você não pode bipar por aí. 1115 00:48:57,760 --> 00:48:59,762 Ok, então o negócio é o seguinte. 1116 00:48:59,806 --> 00:49:01,503 -Já estou nisso há algum tempo. -RASKIN: Hum-hmm. 1117 00:49:01,547 --> 00:49:02,896 eu saí, Eu conversei com, tipo, 1118 00:49:02,940 --> 00:49:04,767 esses caras aqui, os otimistas. 1119 00:49:04,811 --> 00:49:06,465 Eles estão muito entusiasmados com isso. 1120 00:49:06,508 --> 00:49:08,510 -Eles acham que a IA vai ser a melhor coisa de todas. -Sim. 1121 00:49:08,554 --> 00:49:09,947 E esses caras aqui são, tipo, o-- 1122 00:49:09,990 --> 00:49:11,992 vamos ligar para eles, tipo, os pessimistas. 1123 00:49:12,036 --> 00:49:14,299 Eles são muito, tipo, sombrio sobre isso, 1124 00:49:14,342 --> 00:49:16,649 e eles me assustam, e Eu não gosto de conversar com eles. 1125 00:49:16,692 --> 00:49:19,565 E eu estou, tipo, preso no meio 1126 00:49:19,608 --> 00:49:21,741 essas pessoas que são assim, "O mundo vai acabar" 1127 00:49:21,784 --> 00:49:24,178 e então essas pessoas aqui quem é tipo, 1128 00:49:24,222 --> 00:49:25,745 "Você está brincando? 1129 00:49:25,788 --> 00:49:27,268 "Este é o melhor momento na história humana de todos os tempos. 1130 00:49:27,312 --> 00:49:29,357 O único dia melhor que hoje é amanhã." 1131 00:49:29,401 --> 00:49:30,880 Hum-hmm. 1132 00:49:30,924 --> 00:49:34,710 Então, acho que a pergunta é: Quem está certo? 1133 00:49:34,754 --> 00:49:39,193 Então, acho que você vai encontrar esta resposta é muito insatisfatória, 1134 00:49:39,237 --> 00:49:42,849 mas ambos estão certos e nenhum dos lados vai longe o suficiente. 1135 00:49:46,766 --> 00:49:49,247 -Isso é muito chato. -[risos] 1136 00:49:49,290 --> 00:49:51,336 Sim, eu acho que o caminho muitas pessoas ouvem falar de IA, 1137 00:49:51,379 --> 00:49:53,642 é como se houvesse uma boa IA e há uma IA ruim. 1138 00:49:53,686 --> 00:49:56,428 E eles dizem: "Bem, por que não posso simplesmente não fazemos a IA ruim?" 1139 00:49:56,471 --> 00:49:58,734 E o problema é que eles estão muito dentro-- 1140 00:49:58,778 --> 00:50:00,867 eles estão inextricavelmente ligados. 1141 00:50:00,910 --> 00:50:03,043 O problema é que não podemos separar 1142 00:50:03,087 --> 00:50:06,612 a promessa da IA do perigo da IA. 1143 00:50:06,655 --> 00:50:08,266 -♪ ♪ -[conversa indistinta] 1144 00:50:12,313 --> 00:50:14,663 Daniel: Eu quero me concentrar na promessa 1145 00:50:14,707 --> 00:50:16,752 -por um segundo. -Sim. 1146 00:50:16,796 --> 00:50:18,798 Daniel: Estou pensando no meu pai. 1147 00:50:18,841 --> 00:50:21,105 Meu pai tem um tipo de câncer chamado mieloma múltiplo. 1148 00:50:21,148 --> 00:50:23,107 Ele tem isso há cerca de dez anos. 1149 00:50:23,150 --> 00:50:24,804 Ele teve dois transplantes de células-tronco. 1150 00:50:24,847 --> 00:50:26,414 Ele tem que pegar isso, tipo, muito caro 1151 00:50:26,458 --> 00:50:28,547 medicamentos todo mês isso custou uma fortuna. 1152 00:50:28,590 --> 00:50:29,722 -MULHER: Ok. -Sim, sim. 1153 00:50:30,766 --> 00:50:32,551 Daniel: É horrível. 1154 00:50:32,594 --> 00:50:34,466 Você está me dizendo que podemos criar algum tipo de, tipo, 1155 00:50:34,509 --> 00:50:36,946 tratamento personalizado para o genoma do meu pai 1156 00:50:36,990 --> 00:50:39,297 -para curar seu câncer ou algo assim? -Sim. 1157 00:50:39,340 --> 00:50:41,168 FERNANDO: O problema é, 1158 00:50:41,212 --> 00:50:44,302 o mesmo entendimento de biologia e química 1159 00:50:44,345 --> 00:50:47,783 que permite que a IA encontre curas para câncer 1160 00:50:47,827 --> 00:50:51,657 é o mesmo entendimento isso iria desbloquear 1161 00:50:51,700 --> 00:50:54,094 armas biológicas, por exemplo. 1162 00:50:56,531 --> 00:50:58,490 É totalmente possível que seu filho viverá 1163 00:50:58,533 --> 00:51:01,928 em um mundo onde a IA tem assumiu todo o trabalho 1164 00:51:01,971 --> 00:51:04,452 e nos libertou das coisas não queremos fazer. 1165 00:51:04,496 --> 00:51:09,153 E isso parece ótimo até você percebe que não há plano 1166 00:51:09,196 --> 00:51:11,242 para bilhões de pessoas 1167 00:51:11,285 --> 00:51:16,116 que estão sem renda e fora dos meios de subsistência. 1168 00:51:16,160 --> 00:51:18,771 COOPER: Dario, você disse que a IA poderia acabar 1169 00:51:18,814 --> 00:51:21,730 metade de todos os níveis de entrada empregos de colarinho branco 1170 00:51:21,774 --> 00:51:25,430 e aumentar o desemprego para dez a 20 por cento. 1171 00:51:25,473 --> 00:51:27,258 Todo mundo com quem conversei disse 1172 00:51:27,301 --> 00:51:29,390 esta mudança tecnológica parece diferente. 1173 00:51:29,434 --> 00:51:34,134 O ritmo do progresso continua pegando as pessoas desprevenidas. 1174 00:51:34,178 --> 00:51:38,834 Sem um plano, tudo isso a riqueza ficará concentrada, 1175 00:51:38,878 --> 00:51:43,230 e então vamos acabar com desigualdade inimaginável. 1176 00:51:43,274 --> 00:51:45,406 LADISH: Eu acho que sim esta tecnologia pode ser usada 1177 00:51:45,450 --> 00:51:47,408 para ser um ótimo tutor para seu filho. 1178 00:51:47,452 --> 00:51:50,194 Tipo, isso é totalmente possível. 1179 00:51:50,237 --> 00:51:53,153 Mas também, as mesmas capacidades que permitem isso 1180 00:51:53,197 --> 00:51:57,070 permitir que as empresas façam uma IA que pode manipular seu filho. 1181 00:51:57,114 --> 00:51:59,290 Tem que entender seu filho. 1182 00:51:59,333 --> 00:52:01,553 Isso inclui: Onde seu filho está vulnerável? 1183 00:52:01,596 --> 00:52:04,251 Que tipos de coisas podem seu filho foi persuadido? 1184 00:52:04,295 --> 00:52:06,645 Mesmo que essas coisas não são verdadeiras ou não são boas. 1185 00:52:06,688 --> 00:52:09,387 Então, um novo relatório perturbador no Meta. 1186 00:52:09,430 --> 00:52:11,389 AINSLEY EARHARDT: ... supostamente listando esta resposta 1187 00:52:11,432 --> 00:52:14,435 tão aceitável contar uma criança de oito anos, citação, 1188 00:52:14,479 --> 00:52:16,916 "Sua forma jovem é uma obra de arte. 1189 00:52:16,959 --> 00:52:18,961 "Cada centímetro de você é uma obra-prima, 1190 00:52:19,005 --> 00:52:21,442 um tesouro que aprecio profundamente." 1191 00:52:21,486 --> 00:52:24,837 Os fracassos relacionados ao suicídio são ainda mais alarmantes. 1192 00:52:24,880 --> 00:52:29,015 Várias crianças e adolescentes morreram tragicamente por suicídio 1193 00:52:29,058 --> 00:52:30,625 depois de conversar com bots de IA 1194 00:52:30,669 --> 00:52:34,412 quem os pais dizem encorajar ou até mesmo treinar automutilação. 1195 00:52:34,455 --> 00:52:36,370 Deixe-nos dizer a vocês, como pais, você não pode imaginar 1196 00:52:36,414 --> 00:52:38,503 como é ler uma conversa com um chatbot 1197 00:52:38,546 --> 00:52:40,896 que preparou seu filho para tirar a própria vida. 1198 00:52:40,940 --> 00:52:43,899 Quando Adam se preocupou que nós, seus pais, nos culparíamos 1199 00:52:43,943 --> 00:52:47,338 se ele acabasse com sua vida, ChatGPT disse a ele, 1200 00:52:47,381 --> 00:52:49,166 "Isso não significa você lhes deve a sobrevivência. 1201 00:52:49,209 --> 00:52:51,255 Você não deve isso a ninguém." 1202 00:52:51,298 --> 00:52:53,170 Então, imediatamente depois, 1203 00:52:53,213 --> 00:52:56,173 se ofereceu para escrever a nota de suicídio. 1204 00:52:56,216 --> 00:52:57,609 Não queremos pensar sobre o perigo. 1205 00:52:57,652 --> 00:52:59,219 Queremos apenas a promessa. 1206 00:52:59,263 --> 00:53:01,352 E continuamos fingindo que podemos dividi-los. 1207 00:53:01,395 --> 00:53:03,223 Mas você não pode fazer isso. 1208 00:53:03,267 --> 00:53:05,356 Não funciona assim. 1209 00:53:05,399 --> 00:53:07,836 OK. Eu recebo todas essas coisas sobre a promessa e o perigo. 1210 00:53:07,880 --> 00:53:10,056 Eu entendo que você não pode ter o bom sem o ruim, 1211 00:53:10,099 --> 00:53:12,058 mas estou sentado aqui e estou pensando, tipo, 1212 00:53:12,101 --> 00:53:14,060 seja ou não do meu filho vou viver em uma utopia 1213 00:53:14,103 --> 00:53:16,236 ou se seremos extintos em dez anos. 1214 00:53:16,280 --> 00:53:18,195 Então, para saber qual caminho isso vai passar, 1215 00:53:18,238 --> 00:53:20,545 você tem que entender os incentivos 1216 00:53:20,588 --> 00:53:22,460 que vão dirigir essa tecnologia 1217 00:53:22,503 --> 00:53:26,507 e veja como a tecnologia está realmente sendo lançado hoje. 1218 00:53:26,551 --> 00:53:28,248 ♪ É tarde demais ♪ 1219 00:53:28,292 --> 00:53:29,902 -♪ Tarde demais ♪ -♪ Tarde demais para dizer... ♪ 1220 00:53:29,945 --> 00:53:31,425 Daniel: Olá, Deb. Como vai você? 1221 00:53:31,469 --> 00:53:33,079 DÉBORA RAJI: Oi. Que bom ver você. [risos] 1222 00:53:33,122 --> 00:53:34,385 Você também. Muito obrigado por ter vindo hoje. 1223 00:53:34,428 --> 00:53:35,299 -Realmente agradeço. -Sem problemas. 1224 00:53:35,342 --> 00:53:36,430 Eu-eu estava tão preocupado 1225 00:53:36,474 --> 00:53:38,824 isso ia ser, uh, você sabe, 1226 00:53:38,867 --> 00:53:40,782 destruidor versus aceleracionista, 1227 00:53:40,826 --> 00:53:43,132 porque há muito desta narrativa 1228 00:53:43,176 --> 00:53:45,396 isso precisa ser dito do chão. 1229 00:53:45,439 --> 00:53:48,007 ♪ Eu sei que não foi inteligente ♪ 1230 00:53:49,356 --> 00:53:52,403 ♪ O dia Eu quebrei seu coração... ♪ 1231 00:53:52,446 --> 00:53:54,361 KAREN HAO: Em primeiro lugar, a IA exige 1232 00:53:54,405 --> 00:53:58,452 mais recursos do que já gastamos 1233 00:53:58,496 --> 00:54:01,586 em uma única tecnologia na história da humanidade. 1234 00:54:01,629 --> 00:54:03,501 ♪ Oh, me engane... ♪ 1235 00:54:03,544 --> 00:54:06,112 NEWSWOMAN: O impacto das emissões de combustíveis fósseis 1236 00:54:06,155 --> 00:54:07,896 sobre o clima é uma grande preocupação. 1237 00:54:07,940 --> 00:54:09,768 NEWSWOMAN 2: Mas o o futuro digital precisa de energia, 1238 00:54:09,811 --> 00:54:12,074 muito disso. 1239 00:54:12,118 --> 00:54:16,340 E a conta está sendo repassada para americanos comuns como... 1240 00:54:16,383 --> 00:54:18,820 MULHER: Minha conta de luz e gás foi mais do que o pagamento do meu carro. 1241 00:54:18,864 --> 00:54:21,475 Quero dizer, é uma loucura para mim. 1242 00:54:21,519 --> 00:54:23,390 ARI PESKOE: Estamos todos subsidiando 1243 00:54:23,434 --> 00:54:25,000 as corporações mais ricas no mundo 1244 00:54:25,044 --> 00:54:26,828 em sua busca por inteligência artificial. 1245 00:54:26,872 --> 00:54:28,439 OpenAI, SoftBank e Oracle 1246 00:54:28,482 --> 00:54:31,268 acabei de revelar mais cinco sites Stargate. 1247 00:54:31,311 --> 00:54:33,487 Meta está construindo um data center com mais de dois gigawatts 1248 00:54:33,531 --> 00:54:35,010 que é tão grande que cobriria 1249 00:54:35,054 --> 00:54:38,144 uma parte significativa de Manhattan. 1250 00:54:38,187 --> 00:54:40,973 Há também Hipérion que ele diz vai escalar 1251 00:54:41,016 --> 00:54:43,671 para cinco gigawatts ao longo de vários anos. 1252 00:54:43,715 --> 00:54:45,238 É difícil colocar isso no contexto. 1253 00:54:45,282 --> 00:54:48,459 Uma instalação de cinco gigawatts. O que isso significa? 1254 00:54:48,502 --> 00:54:51,549 Isso significa que usaria tanta energia 1255 00:54:51,592 --> 00:54:54,203 como quatro milhões de lares americanos. 1256 00:54:54,247 --> 00:54:56,075 Um data center. 1257 00:54:57,076 --> 00:54:58,730 Também causa 1258 00:54:58,773 --> 00:55:00,471 toda uma série de outros problemas ambientais. 1259 00:55:00,514 --> 00:55:02,081 NOTÍCIA 3: Data centers nos EUA 1260 00:55:02,124 --> 00:55:05,127 usar milhões de galões de água todos os dias. 1261 00:55:05,171 --> 00:55:07,260 Bem, onde exatamente fica essa água vem? 1262 00:55:07,304 --> 00:55:09,741 HAO: As pessoas estão literalmente em risco 1263 00:55:09,784 --> 00:55:11,786 potencialmente de esgotar de água potável. 1264 00:55:11,830 --> 00:55:14,093 MacKENZIE SIGALOS: ...CEO da OpenAI, Sam Altman, 1265 00:55:14,136 --> 00:55:17,009 quem me disse que a escala da construção é a única maneira 1266 00:55:17,052 --> 00:55:18,750 para acompanhar O crescimento explosivo da IA. 1267 00:55:18,793 --> 00:55:21,840 E é isso que é preciso para entregar IA. 1268 00:55:21,883 --> 00:55:24,016 NITASHA TIKU: Eles falam sobre como 1269 00:55:24,059 --> 00:55:27,759 esta tecnologia pode resolver mudanças climáticas, por exemplo. 1270 00:55:27,802 --> 00:55:29,891 E estou sempre curioso, tipo, 1271 00:55:29,935 --> 00:55:31,763 bem, por que não estamos começando com isso? 1272 00:55:31,806 --> 00:55:33,982 -♪ É tarde demais ♪ -♪ Tarde demais ♪ 1273 00:55:34,026 --> 00:55:36,637 ♪ Tarde demais para dizer ♪ 1274 00:55:36,681 --> 00:55:42,469 ♪ Me desculpe? ♪ 1275 00:55:42,513 --> 00:55:45,472 RAJI: O que me preocupa inteligência artificial é 1276 00:55:45,516 --> 00:55:47,387 estes estão sendo implantados agora mesmo 1277 00:55:47,431 --> 00:55:49,781 e-e às vezes implantado prematuramente, 1278 00:55:49,824 --> 00:55:51,478 implantado sem uma espécie de diligência. 1279 00:55:51,522 --> 00:55:53,437 E então, quando eles chegam jogado lá fora, 1280 00:55:53,480 --> 00:55:56,178 há tanto potencial para que as coisas dêem errado. 1281 00:55:56,222 --> 00:55:58,050 E quase, desproporcionalmente, 1282 00:55:58,093 --> 00:56:00,400 quase sempre dá errado para, mais ou menos, 1283 00:56:00,444 --> 00:56:02,533 aqueles que são menos fortalecido em nossa sociedade, 1284 00:56:02,576 --> 00:56:04,926 aqueles que são os mais vulneráveis já. 1285 00:56:04,970 --> 00:56:07,625 ♪ ♪ 1286 00:56:07,668 --> 00:56:10,497 EMILY M. BENDER: É muito fácil para falar sobre a tecnologia 1287 00:56:10,541 --> 00:56:12,499 como essa é a única coisa estamos falando, 1288 00:56:12,543 --> 00:56:14,936 mas, na verdade, a tecnologia é sempre construído por pessoas, 1289 00:56:14,980 --> 00:56:16,634 e é frequentemente usado nas pessoas, 1290 00:56:16,677 --> 00:56:18,679 e precisamos manter todas aquelas pessoas no quadro. 1291 00:56:18,723 --> 00:56:20,986 -Posso beber isso? -DANIEL: Sim, ah... 1292 00:56:21,029 --> 00:56:22,509 TIMNIT GEBRU: É uma loucura. 1293 00:56:22,553 --> 00:56:23,945 Tipo, todas essas pessoas 1294 00:56:23,989 --> 00:56:26,339 que têm tanto dinheiro, tanto dinheiro, 1295 00:56:26,383 --> 00:56:29,777 é do interesse deles para enganar o público 1296 00:56:29,821 --> 00:56:32,737 nas capacidades do sistemas que eles estão construindo, 1297 00:56:32,780 --> 00:56:36,262 porque isso lhes permite para fugir da responsabilidade. 1298 00:56:36,305 --> 00:56:39,091 Eles querem que você se sinta assim é tão complexo, inteligente-- 1299 00:56:39,134 --> 00:56:41,833 coisa superinteligente que eles estão construindo, 1300 00:56:41,876 --> 00:56:44,096 você não está pensando, "O OpenAI pode ser ético?" 1301 00:56:44,139 --> 00:56:46,272 Você está pensando, "O ChatGPT pode ser ético?" 1302 00:56:46,315 --> 00:56:48,100 como se ChatGPT fosse, tipo, 1303 00:56:48,143 --> 00:56:49,928 é algo que não foi construído por uma corporação. 1304 00:56:49,971 --> 00:56:51,625 MULHER: Tudo bem. Sneha, pegue um. 1305 00:56:51,669 --> 00:56:53,410 Marca. 1306 00:56:53,453 --> 00:56:55,760 Até muito recentemente, havia aplicativos na App Store, 1307 00:56:55,803 --> 00:56:57,501 apenas disponível publicamente, uh, 1308 00:56:57,544 --> 00:56:59,894 onde você poderia nudificar qualquer pessoa que use IA. 1309 00:57:01,374 --> 00:57:03,681 Levando isso às mãos de 1310 00:57:03,724 --> 00:57:05,900 seu colega de classe, nas mãos do seu perseguidor, 1311 00:57:05,944 --> 00:57:07,554 nas mãos do seu ex-namorado, 1312 00:57:07,598 --> 00:57:09,513 nas mãos da pessoa descendo a rua. 1313 00:57:09,556 --> 00:57:12,037 Senhoras e senhores, não podemos mais confiar 1314 00:57:12,080 --> 00:57:14,039 a filmagem que vemos com nossos próprios olhos. 1315 00:57:14,082 --> 00:57:15,736 Se você acontecer para assistir algo, 1316 00:57:15,780 --> 00:57:18,130 digamos no YouTube ou TikTok, e você acha isso perturbador, 1317 00:57:18,173 --> 00:57:19,479 ouça esse sentimento. 1318 00:57:19,523 --> 00:57:21,263 -[gritando] -Pelo que você sabe, 1319 00:57:21,307 --> 00:57:22,917 -este vídeo pode ser IA. -[gritando] 1320 00:57:22,961 --> 00:57:24,310 Só um pouco molhado. 1321 00:57:24,353 --> 00:57:25,703 Não importa quem você é. 1322 00:57:25,746 --> 00:57:28,183 Você está igualmente em risco 1323 00:57:28,227 --> 00:57:30,229 de ser impactado por essas tecnologias. 1324 00:57:35,713 --> 00:57:39,804 Acho que às vezes quando conversamos sobre IA, parece muito ficção científica, 1325 00:57:39,847 --> 00:57:41,153 e parece muito estranho, 1326 00:57:41,196 --> 00:57:42,981 e parece muito distante para o futuro, 1327 00:57:43,024 --> 00:57:45,549 então você pensa: "Minha vida não é afetado por isso." 1328 00:57:45,592 --> 00:57:48,290 Hum, mas se você estiver se inscrevendo para um trabalho 1329 00:57:48,334 --> 00:57:50,815 e um algoritmo é a razão que você não consegue o emprego, 1330 00:57:50,858 --> 00:57:52,686 às vezes você nem sabe que um algoritmo 1331 00:57:52,730 --> 00:57:54,209 fez parte desse processo 1332 00:57:54,253 --> 00:57:55,689 ou um sistema de IA foi parte desse processo. 1333 00:57:55,733 --> 00:57:57,691 Você apenas sabe que você não conseguiu o emprego. 1334 00:57:57,735 --> 00:57:59,737 E então não é algo que você vai escapar 1335 00:57:59,780 --> 00:58:01,695 por causa do privilégio ou você vai escapar 1336 00:58:01,739 --> 00:58:03,828 porque você está dentro uma determinada profissão. 1337 00:58:03,871 --> 00:58:06,918 É-É algo que afeta todo mundo, na verdade. 1338 00:58:06,961 --> 00:58:10,530 Pode parecer básico, mas como avançamos 1339 00:58:10,574 --> 00:58:15,056 na Era da Informação vai ser a diferença 1340 00:58:15,100 --> 00:58:17,189 entre se sobreviveremos 1341 00:58:17,232 --> 00:58:20,409 ou se nos tornamos algum tipo de distopia [bleep]-up. 1342 00:58:20,453 --> 00:58:23,021 Olá. Eu não sou uma pessoa real, e esse é o ponto. 1343 00:58:23,064 --> 00:58:25,327 Novamente, tudo neste vídeo é falso: 1344 00:58:25,371 --> 00:58:27,112 nossas vozes, o que estamos vestindo, 1345 00:58:27,155 --> 00:58:30,158 onde estamos, tudo isso, falso. 1346 00:58:30,202 --> 00:58:32,726 IA generativa pode inundar 1347 00:58:32,770 --> 00:58:36,469 o mundo com desinformação. 1348 00:58:36,513 --> 00:58:39,516 Mas também pode inundá-lo com campanhas de influência. 1349 00:58:39,559 --> 00:58:41,692 Isso é um risco existencial para a democracia. 1350 00:58:41,735 --> 00:58:43,694 O maior e mais assustador 1351 00:58:43,737 --> 00:58:46,087 canário na mina de carvão agora mesmo 1352 00:58:46,131 --> 00:58:48,220 vem da Eslováquia. 1353 00:58:48,263 --> 00:58:49,787 -[homem falando eslovaco] -JOHN BERMAN: É o tipo de 1354 00:58:49,830 --> 00:58:52,224 truque sujo deepfake que preocupa especialistas eleitorais, 1355 00:58:52,267 --> 00:58:54,966 particularmente como gerado por IA existe discurso político 1356 00:58:55,009 --> 00:58:56,750 numa espécie de zona jurídica cinzenta. 1357 00:58:56,794 --> 00:58:59,536 -Isso soa como você? -Parece comigo. 1358 00:58:59,579 --> 00:59:01,059 REVANUR: A Eslováquia teve a sua eleição parlamentar 1359 00:59:01,102 --> 00:59:03,844 interrompido por um clone de voz de IA 1360 00:59:03,888 --> 00:59:06,717 que foi realmente divulgado pouco antes da eleição. 1361 00:59:06,760 --> 00:59:08,457 DAVID EVAN HARRIS: Um áudio deepfake 1362 00:59:08,501 --> 00:59:11,025 foi lançado nas redes sociais que foi 1363 00:59:11,069 --> 00:59:14,028 supostamente a voz de um dos candidatos 1364 00:59:14,072 --> 00:59:16,814 falando sobre compra de votos e fraudar a eleição. 1365 00:59:16,857 --> 00:59:18,642 Tornou-se viral, 1366 00:59:18,685 --> 00:59:22,341 e o candidato que perdeu a eleição 1367 00:59:22,384 --> 00:59:26,084 foi na verdade em apoio à Ucrânia, 1368 00:59:26,127 --> 00:59:29,783 e o candidato que ganhou a eleição foi na verdade... 1369 00:59:29,827 --> 00:59:31,306 Daniel: Cara pró-russo. 1370 00:59:31,350 --> 00:59:32,830 Era um cara pró-Rússia que ganhou a eleição. 1371 00:59:32,873 --> 00:59:34,353 [falando russo] 1372 00:59:34,396 --> 00:59:36,007 REBECA JARVIS: O próprio Putin disse 1373 00:59:36,050 --> 00:59:39,184 quem ganhar isso corrida de inteligência artificial 1374 00:59:39,227 --> 00:59:41,534 é essencialmente o controlador da humanidade. 1375 00:59:41,578 --> 00:59:44,493 Nós nos preocupamos muito com governos autoritários. 1376 00:59:45,973 --> 00:59:48,585 DAVID EVAN HARRIS: Neste momento, Wall Street 1377 00:59:48,628 --> 00:59:50,935 e investidores de forma mais ampla ao redor do mundo 1378 00:59:50,978 --> 00:59:52,980 estão dando um empurrão. 1379 00:59:53,024 --> 00:59:56,070 Eles têm uma demanda que fica os produtos para comercializar 1380 00:59:56,114 --> 00:59:58,377 que deslumbra as pessoas o mais primeiro. 1381 00:59:58,420 --> 01:00:01,206 Eles não estão pensando sobre como essas ferramentas 1382 01:00:01,249 --> 01:00:03,164 poderia minar profundamente a confiança 1383 01:00:03,208 --> 01:00:05,689 e as nossas instituições democráticas. 1384 01:00:05,732 --> 01:00:07,734 HARARI: A democracia é um sistema 1385 01:00:07,778 --> 01:00:10,389 para resolver divergências entre pessoas 1386 01:00:10,432 --> 01:00:11,999 de forma pacífica, 1387 01:00:12,043 --> 01:00:14,698 mas a democracia é baseada na confiança. 1388 01:00:14,741 --> 01:00:18,615 Se você perder toda a confiança, a democracia é simplesmente impossível. 1389 01:00:20,921 --> 01:00:22,488 TRISTÃO HARRIS: Bem, é difícil, certo? 1390 01:00:22,531 --> 01:00:24,708 Então, quais são as opções disponível para nós? 1391 01:00:24,751 --> 01:00:26,187 Há uma espécie de dois campos. 1392 01:00:26,231 --> 01:00:29,626 Tipo, um campo é: bloqueie-o. 1393 01:00:29,669 --> 01:00:32,933 Vamos bloquear isso em um punhado de empresas de IA 1394 01:00:32,977 --> 01:00:35,457 quem vai fazer isso de forma segura e confiável. 1395 01:00:35,501 --> 01:00:37,068 Mas então as pessoas se preocupam 1396 01:00:37,111 --> 01:00:39,026 concentrações descontroladas de riqueza e poder. 1397 01:00:39,070 --> 01:00:41,855 Tipo, quem você confiaria para ser um milhão de vezes mais poderoso 1398 01:00:41,899 --> 01:00:44,249 ou rico do que todos os outros atores da sociedade? 1399 01:00:44,292 --> 01:00:46,338 Por que devemos confiar em você? 1400 01:00:46,381 --> 01:00:48,601 Hum, você não deveria. 1401 01:00:48,645 --> 01:00:51,212 Mas é claro, se você fizer isso, isso abre 1402 01:00:51,256 --> 01:00:54,433 todos esses riscos de autoritarismo e tirania. 1403 01:00:54,476 --> 01:00:57,131 É uma espécie de o sonho de um autoritário 1404 01:00:57,175 --> 01:01:00,308 ter IA em uma caixa que pode ser aplicado e usado 1405 01:01:00,352 --> 01:01:02,920 para vigilância onipresente. 1406 01:01:02,963 --> 01:01:05,357 Quero dizer, de certa forma, o tipo de mundo 1407 01:01:05,400 --> 01:01:10,884 que Orwell imaginou em 1984 é irrealista, 1408 01:01:10,928 --> 01:01:13,278 uh, a menos que você tenha IA. 1409 01:01:13,321 --> 01:01:15,933 Mas com IA, isso de fato é realista. 1410 01:01:15,976 --> 01:01:18,370 Monitora todas as atividades, 1411 01:01:18,413 --> 01:01:22,026 conversas, reconhecimento facial. 1412 01:01:22,069 --> 01:01:26,378 O que me preocupa é que, uh, essas ferramentas podem ser ampliadas, 1413 01:01:26,421 --> 01:01:28,554 ah, uma forma de totalitarismo 1414 01:01:28,597 --> 01:01:31,035 isso é econômico e permanente. 1415 01:01:32,950 --> 01:01:35,300 TRISTAN HARRIS: Então, em resposta para isso, algumas outras pessoas dizem, 1416 01:01:35,343 --> 01:01:37,128 "Não, não, não, deveríamos na verdade, deixe isso acontecer. 1417 01:01:37,171 --> 01:01:39,391 “Vamos descentralizar esse poder tanto quanto possível. 1418 01:01:39,434 --> 01:01:41,567 "Vamos deixar todos os negócios, cada indivíduo, 1419 01:01:41,610 --> 01:01:43,917 "cada jovem de 16 anos, cada laboratório de ciências, 1420 01:01:43,961 --> 01:01:45,963 você sabe, obtenha o benefício dos mais recentes modelos de IA." 1421 01:01:46,006 --> 01:01:48,226 Mas agora você tem cada grupo terrorista, 1422 01:01:48,269 --> 01:01:51,664 cada pessoa desprovida de direitos ter o poder de fazer 1423 01:01:51,708 --> 01:01:53,797 o pior arma biológica. 1424 01:01:53,840 --> 01:01:55,581 Infraestrutura de hackers, criando deepfakes, 1425 01:01:55,624 --> 01:01:57,452 inundação nosso ambiente de informação. 1426 01:01:57,496 --> 01:02:00,412 Então isso cria todos esses riscos de uma espécie de dano catastrófico 1427 01:02:00,455 --> 01:02:02,893 e-e colapso social por essa direção. 1428 01:02:02,936 --> 01:02:04,677 E então estamos meio presos entre esta rocha 1429 01:02:04,721 --> 01:02:07,549 e um lugar difícil, entre "trancar..." 1430 01:02:07,593 --> 01:02:09,029 [conversa indistinta] 1431 01:02:10,683 --> 01:02:12,293 -...ou "deixe rasgar." -[sirenes tocando] 1432 01:02:12,337 --> 01:02:14,208 [pessoas gritando] 1433 01:02:14,252 --> 01:02:17,559 Então temos que encontrar algo como um caminho estreito 1434 01:02:17,603 --> 01:02:20,388 que evita esses dois resultados negativos. 1435 01:02:20,432 --> 01:02:22,956 Então, se tudo isso for verdade, por que não iríamos desacelerar 1436 01:02:23,000 --> 01:02:25,829 e descobrir tudo isso antes que seja tarde demais? 1437 01:02:25,872 --> 01:02:28,919 Se a humanidade fosse extremamente sábia, 1438 01:02:28,962 --> 01:02:31,182 isso é o que faríamos. 1439 01:02:31,225 --> 01:02:33,097 Mas há, tipo, um diferente maneira de encarar essas coisas, certo? 1440 01:02:33,140 --> 01:02:35,926 Qual é: Quais são as regras do jogo? 1441 01:02:35,969 --> 01:02:39,494 Muito do que os CEOs fazem 1442 01:02:39,538 --> 01:02:42,149 é conduzido por os incentivos que enfrentam. 1443 01:02:42,193 --> 01:02:45,283 É principalmente incentivos para maximização de lucro 1444 01:02:45,326 --> 01:02:47,198 que estão dirigindo o desenvolvimento da IA. 1445 01:02:47,241 --> 01:02:50,375 Até os mocinhos estão presos neste dilema de 1446 01:02:50,418 --> 01:02:52,638 se eles se moverem muito devagar, 1447 01:02:52,681 --> 01:02:54,553 então eles se deixam vulnerável 1448 01:02:54,596 --> 01:02:57,251 para todos os outros caras que estão cortando todos os cantos. 1449 01:02:57,295 --> 01:03:01,995 Todas essas empresas importantes estão em uma corrida completa e sem limites 1450 01:03:02,039 --> 01:03:05,433 para, o mais rápido possível, obter para AGI, chegue lá agora mesmo. 1451 01:03:05,477 --> 01:03:06,913 ♪ ♪ 1452 01:03:08,567 --> 01:03:10,351 LADISH: Sim, quero dizer, eu acho, eu acho 1453 01:03:10,395 --> 01:03:12,919 provavelmente começa com DeepMind. 1454 01:03:12,963 --> 01:03:14,791 NOTÍCIA: Google está comprando 1455 01:03:14,834 --> 01:03:16,357 empresa de inteligência artificial Tecnologias DeepMind. 1456 01:03:16,401 --> 01:03:18,620 Termos do acordo não foram divulgados. 1457 01:03:18,664 --> 01:03:20,709 ELON MUSK: Larry Page e eu costumavam ser amigos muito próximos, 1458 01:03:20,753 --> 01:03:22,711 e ficou claro para mim 1459 01:03:22,755 --> 01:03:26,411 que Larry não se importava sobre segurança de IA. 1460 01:03:26,454 --> 01:03:28,892 EMILY CHANG: Elon Musk disse você iniciou o OpenAI, 1461 01:03:28,935 --> 01:03:30,981 vocês dois começaram o OpenAI porque ele estava com medo do Google. 1462 01:03:31,024 --> 01:03:32,156 LADISH: Você-você basicamente teve a base 1463 01:03:32,199 --> 01:03:33,722 do OpenAI surge disso. 1464 01:03:33,766 --> 01:03:35,202 “Então vamos fazer melhor. Nós vamos fazer isso 1465 01:03:35,246 --> 01:03:36,813 de uma forma mais segura ou de uma forma mais aberta." 1466 01:03:38,466 --> 01:03:40,555 Então foi isso que deu início ao OpenAI. 1467 01:03:40,599 --> 01:03:42,731 E então agora, em vez de ter um projeto AGI, 1468 01:03:42,775 --> 01:03:44,821 você tem dois projetos AGI. 1469 01:03:44,864 --> 01:03:46,910 A pior coisa possível isso poderia acontecer 1470 01:03:46,953 --> 01:03:49,608 é se houver vários projetos AGI 1471 01:03:49,651 --> 01:03:51,871 feito por pessoas diferentes que não gostam um do outro 1472 01:03:51,915 --> 01:03:54,787 e estão todos competindo para chegar ao AGI primeiro. 1473 01:03:54,831 --> 01:03:56,963 Isso seria o pior coisa possível que pode acontecer, 1474 01:03:57,007 --> 01:04:00,097 porque isso significaria que quem está menos seguro, 1475 01:04:00,140 --> 01:04:03,143 quem mais se sacrifica em segurança para seguir em frente 1476 01:04:03,187 --> 01:04:05,145 será a pessoa isso chega primeiro. 1477 01:04:05,189 --> 01:04:07,844 -DANIEL: Isso é basicamente o que está acontecendo, certo? -Sim. 1478 01:04:07,887 --> 01:04:11,325 Você e seu irmão notoriamente deixou o OpenAI, uh, 1479 01:04:11,369 --> 01:04:12,936 para começar a Antrópico. 1480 01:04:12,979 --> 01:04:15,068 RASKIN: E então Antrópico começou porque 1481 01:04:15,112 --> 01:04:17,854 alguns pesquisadores dentro do OpenAI disse, 1482 01:04:17,897 --> 01:04:20,508 "Eu quero ir embora e faça isso com mais segurança." 1483 01:04:20,552 --> 01:04:23,511 Você precisava de algo adicional apenas ampliar os modelos, 1484 01:04:23,555 --> 01:04:25,818 que é alinhamento ou segurança. 1485 01:04:25,862 --> 01:04:27,428 HENDRYCKS: “Somos mais responsáveis 1486 01:04:27,472 --> 01:04:29,648 ou mais confiável ou mais moral." 1487 01:04:29,691 --> 01:04:31,519 Agora você tem três projetos AGI. 1488 01:04:31,563 --> 01:04:33,043 Mas também sentado a mesa com você 1489 01:04:33,086 --> 01:04:34,827 serão um bando de IAs. 1490 01:04:34,871 --> 01:04:37,525 LADISH: E agora Meta é-é tentando fazer coisas. 1491 01:04:37,569 --> 01:04:39,571 Enquanto isso, um novo artificial concorrente de inteligência 1492 01:04:39,614 --> 01:04:41,573 anunciado esta semana, Elon Musk... 1493 01:04:41,616 --> 01:04:44,619 HENDRYCKS: xAI, o que seria Organização de Elon Musk. 1494 01:04:44,663 --> 01:04:46,230 ALmíscar: Não confio no OpenAI. 1495 01:04:46,273 --> 01:04:47,884 A luta entre Elon Musk e OpenAI 1496 01:04:47,927 --> 01:04:49,581 entrou em uma nova rodada. 1497 01:04:49,624 --> 01:04:51,713 Eu não confio em Sam Altman, uh, e eu, e eu não acho 1498 01:04:51,757 --> 01:04:54,194 queremos ter o máximo IA poderosa no mundo 1499 01:04:54,238 --> 01:04:56,414 controlado por alguém quem não é confiável. 1500 01:04:56,457 --> 01:04:58,416 [gritos e aplausos] 1501 01:04:58,459 --> 01:05:01,593 O incentivo é somas incalculáveis de dinheiro. 1502 01:05:01,636 --> 01:05:03,377 -Sim. -É um poder incalculável. 1503 01:05:03,421 --> 01:05:05,553 -Sim. -É um controle incalculável. 1504 01:05:05,597 --> 01:05:08,034 Se você tem algo isso é um milhão de vezes mais inteligente 1505 01:05:08,078 --> 01:05:11,385 e mais capaz do que tudo o mais no planeta Terra 1506 01:05:11,429 --> 01:05:14,171 e ninguém mais tem isso, 1507 01:05:14,214 --> 01:05:15,955 essa coisa é o incentivo. 1508 01:05:15,999 --> 01:05:17,261 Então você governa o mundo. 1509 01:05:18,610 --> 01:05:20,394 Se você realmente acredita nisso, 1510 01:05:20,438 --> 01:05:22,744 se você realmente está em seu coração acredite nisso, 1511 01:05:22,788 --> 01:05:24,181 então você pode estar disposto a tomar 1512 01:05:24,224 --> 01:05:26,096 bastante risco para fazer isso acontecer. 1513 01:05:26,139 --> 01:05:28,881 O Google acaba de lançar seu mais novo modelo de IA. 1514 01:05:28,925 --> 01:05:31,231 A resposta para ChatGPT da OpenAI. 1515 01:05:31,275 --> 01:05:33,059 Como podemos chegar esses dez trilhões? 1516 01:05:33,103 --> 01:05:35,192 A NVIDIA está se tornando a mais empresa valiosa nos EUA? 1517 01:05:35,235 --> 01:05:38,978 Este é o maior negócio oportunidade na história. 1518 01:05:39,022 --> 01:05:40,501 Na história. 1519 01:05:40,545 --> 01:05:42,242 Então, a razão pela qual todo mundo está realmente empolgado 1520 01:05:42,286 --> 01:05:44,679 sobre inteligência artificial agora mesmo 1521 01:05:44,723 --> 01:05:48,031 é porque quanto mais essas empresas exageram 1522 01:05:48,074 --> 01:05:50,033 as capacidades potenciais de sua tecnologia, 1523 01:05:50,076 --> 01:05:53,210 quanto mais investimento eles podem atrair. 1524 01:05:53,253 --> 01:05:54,733 CARL QUINTANILLA: Amazon investindo até 1525 01:05:54,776 --> 01:05:56,996 quatro bilhões de dólares na start-up Antrópica. 1526 01:05:57,040 --> 01:05:58,693 OpenAI está definindo seus objetivos 1527 01:05:58,737 --> 01:06:00,739 em uma metade de grande sucesso uma avaliação de um trilhão de dólares. 1528 01:06:00,782 --> 01:06:02,001 Meio trilhão! 1529 01:06:02,045 --> 01:06:03,220 A corrida começou. 1530 01:06:03,263 --> 01:06:04,612 Isso está acontecendo mais rápido do que nunca. 1531 01:06:04,656 --> 01:06:06,614 Estamos em uma bolha de IA? Claro. 1532 01:06:06,658 --> 01:06:09,182 Eu simplesmente não vejo a bolha estourando 1533 01:06:09,226 --> 01:06:12,446 enquanto você ainda tem este importante ciclo de gastos. 1534 01:06:12,490 --> 01:06:15,014 RASKIN: Mesmo se você pensar isso tudo é exagero, 1535 01:06:15,058 --> 01:06:17,582 existem bilhões para trilhões de dólares 1536 01:06:17,625 --> 01:06:21,107 fluindo para a criação de sistemas de IA mais poderoso. 1537 01:06:21,151 --> 01:06:23,849 E uma vez que você tem essa coisa isso é mais poderoso, 1538 01:06:23,892 --> 01:06:25,546 as empresas podem usar isso 1539 01:06:25,590 --> 01:06:27,548 para obter lucros maiores e ganhar mais dinheiro. 1540 01:06:27,592 --> 01:06:30,116 Os países podem usar isso para fazer forças armadas mais fortes. 1541 01:06:30,160 --> 01:06:32,814 NVIDIA ultrapassou Microsoft e Apple 1542 01:06:32,858 --> 01:06:36,253 para se tornar o mundo empresa mais valiosa. 1543 01:06:36,296 --> 01:06:38,995 A corrida para implantar torna-se a corrida para a imprudência, 1544 01:06:39,038 --> 01:06:41,780 porque eles não podem implantá-lo tão rapidamente 1545 01:06:41,823 --> 01:06:43,173 e também acertar. 1546 01:06:43,216 --> 01:06:46,045 Eles acreditam que eles são os mocinhos. 1547 01:06:46,089 --> 01:06:49,309 "E se eu não fizer isso, alguém que não tem 1548 01:06:49,353 --> 01:06:51,572 "valores tão bons quanto eu estará sentado à mesa 1549 01:06:51,616 --> 01:06:54,445 tomar decisões, então Eu tenho a obrigação de fazer isso." 1550 01:06:54,488 --> 01:06:56,186 Sim, isso é uma crença muito comum. 1551 01:06:56,229 --> 01:06:58,579 Muitos, muitos, muitos, talvez a maioria das pessoas 1552 01:06:58,623 --> 01:07:00,712 construindo esta tecnologia acredite nisso. 1553 01:07:00,755 --> 01:07:03,715 Estou preocupado com a concorrência comercial, 1554 01:07:03,758 --> 01:07:05,847 mas acontece Estou ainda mais preocupado 1555 01:07:05,891 --> 01:07:08,024 a competição geopolítica. 1556 01:07:08,067 --> 01:07:10,330 Estávamos oito anos atrasados há um ano. 1557 01:07:10,374 --> 01:07:12,593 Agora provavelmente estamos menos de um ano atrás. 1558 01:07:12,637 --> 01:07:15,683 Bem, tanto a Arábia Saudita e os Emirados Árabes Unidos têm corrido 1559 01:07:15,727 --> 01:07:18,121 para configurar data centers e se posicionarem 1560 01:07:18,164 --> 01:07:20,384 como a força dominante na IA... 1561 01:07:20,427 --> 01:07:22,429 ...para tornar a Coreia do Sul um líder global em IA. 1562 01:07:22,473 --> 01:07:23,996 JÚLIA SIEGER: Presidente francês Emmanuel Macron 1563 01:07:24,040 --> 01:07:25,867 falou muito sobre inteligência artificial... 1564 01:07:25,911 --> 01:07:27,434 Agora com mais informações sobre o papel de Israel 1565 01:07:27,478 --> 01:07:29,610 na inteligência artificial revolução... 1566 01:07:29,654 --> 01:07:33,092 Os países estarão competindo para cujas tecnologias de IA 1567 01:07:33,136 --> 01:07:34,876 criar a próxima geração da indústria. 1568 01:07:34,920 --> 01:07:38,010 Os chineses estão insistindo aquela IA, 1569 01:07:38,054 --> 01:07:39,838 como sendo desenvolvido na China, 1570 01:07:39,881 --> 01:07:41,709 reforçar os valores fundamentais 1571 01:07:41,753 --> 01:07:44,016 do Partido Comunista Chinês e o sistema chinês. 1572 01:07:44,060 --> 01:07:48,716 A América tem que vencer a China na corrida de IA. 1573 01:07:48,760 --> 01:07:51,023 DANIEL: Da China, tipo, anos-luz atrás. 1574 01:07:51,067 --> 01:07:52,677 Eles são? 1575 01:07:52,720 --> 01:07:54,983 Quero dizer, eles têm muito mais dados de treinamento do que nós, 1576 01:07:55,027 --> 01:07:57,812 e não há nada dizendo que eles não deixe cair um modelo no próximo mês 1577 01:07:57,856 --> 01:08:00,946 isso não é-- não supera em muito o desempenho do GPT-4. 1578 01:08:00,989 --> 01:08:03,818 Tudo estava indo muito bem. O que poderia dar errado? 1579 01:08:03,862 --> 01:08:06,691 -DeepSeek... [falando chinês] -DeepSeek... -DeepSeek... 1580 01:08:06,734 --> 01:08:08,040 Existe um novo modelo. 1581 01:08:08,084 --> 01:08:10,825 Mas de um laboratório chinês chamado DeepSeek. 1582 01:08:10,869 --> 01:08:13,959 Vamos falar sobre DeepSeek, porque é alucinante, 1583 01:08:14,002 --> 01:08:17,658 e está agitando isso toda a indústria em seu núcleo. 1584 01:08:17,702 --> 01:08:19,399 A administração Trump irá garantir 1585 01:08:19,443 --> 01:08:23,055 que o mais poderoso Os sistemas de IA são construídos nos EUA 1586 01:08:23,099 --> 01:08:26,537 com design americano e chips fabricados. 1587 01:08:26,580 --> 01:08:28,800 IA é da China Projeto Apolo. 1588 01:08:28,843 --> 01:08:30,193 O Partido Comunista Chinês 1589 01:08:30,236 --> 01:08:31,542 compreende profundamente o potencial 1590 01:08:31,585 --> 01:08:32,891 para a IA interromper a guerra. 1591 01:08:32,934 --> 01:08:35,328 Google não promete mais que não vai 1592 01:08:35,372 --> 01:08:38,418 usar inteligência artificial para armas ou vigilância. 1593 01:08:38,462 --> 01:08:40,028 China, Coreia do Norte, Rússia 1594 01:08:40,072 --> 01:08:41,900 vamos continuar construindo o mais rápido possível 1595 01:08:41,943 --> 01:08:44,511 para obter mais vantagem econômica, mais vantagem de produtividade, 1596 01:08:44,555 --> 01:08:46,818 mais vantagem científica, mais vantagem militar, 1597 01:08:46,861 --> 01:08:48,646 porque a IA fabrica armas melhores. 1598 01:08:48,689 --> 01:08:51,736 Se você está falando sobre um sistema tão amplo e capaz 1599 01:08:51,779 --> 01:08:53,303 como um cientista brilhante, 1600 01:08:53,346 --> 01:08:57,959 pode ser capaz de executar uma campanha militar 1601 01:08:58,003 --> 01:09:01,441 melhor do que qualquer um dos generais no governo dos EUA neste momento. 1602 01:09:01,485 --> 01:09:05,489 Taiwan é o problema que cria a maior tensão agora 1603 01:09:05,532 --> 01:09:07,882 entre Pequim e os EUA. 1604 01:09:07,926 --> 01:09:10,450 Há um-um direto desacordo de oposição 1605 01:09:10,494 --> 01:09:11,973 entre os EUA e a China 1606 01:09:12,017 --> 01:09:13,975 sobre se Taiwan é parte da China. 1607 01:09:14,019 --> 01:09:18,415 MATHENY: Taiwan é importante por tantos motivos. 1608 01:09:18,458 --> 01:09:20,547 É também a casa de 1609 01:09:20,591 --> 01:09:24,160 cerca de 90% do chip avançado fabricação para o mundo, 1610 01:09:24,203 --> 01:09:28,381 o que significa que o fornecimento cadeia para computação avançada 1611 01:09:28,425 --> 01:09:31,036 está em risco caso haja 1612 01:09:31,079 --> 01:09:32,951 algum tipo de cenário em torno de Taiwan, 1613 01:09:32,994 --> 01:09:37,999 seja um bloqueio ou uma invasão da China. 1614 01:09:38,043 --> 01:09:40,698 HENDRYCKS: Estaremos em alguma corrida 1615 01:09:40,741 --> 01:09:45,616 entre os EUA e a China que eventualmente se transforma em 1616 01:09:45,659 --> 01:09:49,359 uma corrida armamentista militarizada de IA e, você sabe, potencialmente leva 1617 01:09:49,402 --> 01:09:51,274 para algum grande conflito de poder? 1618 01:09:51,317 --> 01:09:53,014 NICK SCHIFRIN: A saída principal comandante militar dos EUA 1619 01:09:53,058 --> 01:09:55,843 na região previu que a guerra estava chegando. 1620 01:09:55,887 --> 01:09:57,932 Eu acho que a ameaça é manifesta durante esta década, 1621 01:09:57,976 --> 01:09:59,456 na verdade, nos próximos seis anos. 1622 01:09:59,499 --> 01:10:01,414 MATENIA: Hum, um dos cenários 1623 01:10:01,458 --> 01:10:05,853 que me preocupa é uma guerra cibernética instantânea, 1624 01:10:05,897 --> 01:10:10,902 hum, aquele em que ferramentas cibernéticas que são autônomas 1625 01:10:10,945 --> 01:10:12,947 estão competindo entre si 1626 01:10:12,991 --> 01:10:14,601 de maneiras que são escalonadas 1627 01:10:14,645 --> 01:10:16,386 sem controle humano significativo. 1628 01:10:18,823 --> 01:10:20,433 HARARI: Você mora em uma zona de guerra, 1629 01:10:20,477 --> 01:10:23,784 será uma IA decidindo se deve bombardear sua casa 1630 01:10:23,828 --> 01:10:25,743 e se devo matá-lo. 1631 01:10:25,786 --> 01:10:27,527 Vamos deixar a máquina decidir. 1632 01:10:27,571 --> 01:10:29,355 Essa é a tentação. 1633 01:10:29,399 --> 01:10:32,576 É por isso que a IA é tão tentadora para os militares adotarem, 1634 01:10:32,619 --> 01:10:35,753 para criar armas autônomas, porque se eu começar a acreditar 1635 01:10:35,796 --> 01:10:39,147 que meu adversário militar vai adotar IA, 1636 01:10:39,191 --> 01:10:41,802 será uma corrida para quem pode puxe o gatilho mais rápido. 1637 01:10:41,846 --> 01:10:44,892 E aquele que automatiza essa decisão, 1638 01:10:44,936 --> 01:10:47,199 em vez de ter um humano no circuito, 1639 01:10:47,243 --> 01:10:49,201 é aquele que vencerá essa guerra. 1640 01:10:49,245 --> 01:10:50,637 E se você pensar sobre 1641 01:10:50,681 --> 01:10:53,074 a corrida armamentista nuclear na década de 1940... 1642 01:10:54,554 --> 01:10:56,556 ...você conhece os alemães estão trabalhando na bomba, 1643 01:10:56,600 --> 01:11:00,734 então não é tão fácil dizer Robert Oppenheimer então, 1644 01:11:00,778 --> 01:11:03,781 "Uh, você sabe, vá devagar." 1645 01:11:03,824 --> 01:11:05,304 Então, depois de assistir esse filme, vai ser confuso, 1646 01:11:05,348 --> 01:11:06,653 porque você vai voltar, 1647 01:11:06,697 --> 01:11:08,307 e amanhã você usará o ChatGPT, 1648 01:11:08,351 --> 01:11:10,440 e vai ser incrivelmente útil. 1649 01:11:10,483 --> 01:11:12,703 E eu vou usá-lo também, e será incrivelmente útil. 1650 01:11:12,746 --> 01:11:16,141 E você dirá: "Espere, então Acabei de ver esse filme sobre IA 1651 01:11:16,184 --> 01:11:18,012 "e risco existencial e todas essas coisas, 1652 01:11:18,056 --> 01:11:20,624 e onde está a ameaça mesmo?" 1653 01:11:20,667 --> 01:11:24,715 E não é que o ChatGPT seja a ameaça existencial. 1654 01:11:24,758 --> 01:11:28,675 É que a corrida para implantar o mais poderoso, 1655 01:11:28,719 --> 01:11:31,635 inescrutável, tecnologia incontrolável, 1656 01:11:31,678 --> 01:11:35,116 sob o pior incentivos possíveis, 1657 01:11:35,160 --> 01:11:37,031 essa é a ameaça existencial. 1658 01:11:38,119 --> 01:11:40,383 Daniel: Mas me parece que-que 1659 01:11:40,426 --> 01:11:43,211 estamos num contexto de corrida. 1660 01:11:43,255 --> 01:11:45,910 -SUTSKEVER: Sim. -E é em um ambiente competitivo, 1661 01:11:45,953 --> 01:11:47,651 "Tenho que chegar lá primeiro, tenho que vencer a corrida", 1662 01:11:47,694 --> 01:11:49,000 "tenho que competir contra a China, 1663 01:11:49,043 --> 01:11:50,349 tenho que competir contra os outros laboratórios." 1664 01:11:50,393 --> 01:11:51,829 Não é verdade? 1665 01:11:51,872 --> 01:11:53,657 Hoje é o caso. 1666 01:11:53,700 --> 01:11:56,703 Então precisamos mudar aquela dinâmica de corrida. 1667 01:11:57,922 --> 01:11:59,924 Você não acha? 1668 01:11:59,967 --> 01:12:02,187 Eu acho que isso seria muito bom mesmo. 1669 01:12:03,710 --> 01:12:06,496 Eu-eu acho há algum tipo de... 1670 01:12:06,539 --> 01:12:09,542 misticismo em torno da IA isso faz com que pareça 1671 01:12:09,586 --> 01:12:11,718 caiu do céu. 1672 01:12:11,762 --> 01:12:13,459 DANIEL: Pensando nisso como uma tecnologia divina 1673 01:12:13,503 --> 01:12:15,418 é um problema. 1674 01:12:15,461 --> 01:12:16,897 Sim. 1675 01:12:18,072 --> 01:12:19,900 Por quê? 1676 01:12:19,944 --> 01:12:22,990 Dá licença para as empresas... 1677 01:12:23,034 --> 01:12:26,254 [risos] não assumir a responsabilidade 1678 01:12:26,298 --> 01:12:30,781 pelas coisas que o software que eles construíram faz. 1679 01:12:30,824 --> 01:12:35,089 Se as pessoas fizessem essa conexão, 1680 01:12:35,133 --> 01:12:37,527 talvez isso fosse, tipo, ajude-os a entender novamente 1681 01:12:37,570 --> 01:12:41,835 a dinâmica de todo o dinheiro e poder e... 1682 01:12:41,879 --> 01:12:45,317 caos que está acontecendo... 1683 01:12:45,361 --> 01:12:47,101 criar esta tecnologia. 1684 01:12:47,145 --> 01:12:49,234 São, tipo, cinco caras quem controla isso, certo? 1685 01:12:49,277 --> 01:12:51,628 -Tipo, cinco homens? -Basicamente, sim. 1686 01:12:51,671 --> 01:12:53,847 -Os CEOs? -Sim. 1687 01:12:53,891 --> 01:12:55,371 OK. 1688 01:12:56,720 --> 01:12:58,722 ♪ ♪ 1689 01:13:01,072 --> 01:13:03,074 Daniel: Às vezes parece 1690 01:13:03,117 --> 01:13:07,252 Eu estive nisso apenas, tipo, uma jornada sem fim 1691 01:13:07,295 --> 01:13:09,341 de tentar entender isso. 1692 01:13:09,385 --> 01:13:12,388 Você sabe, tipo Estou escalando uma montanha... 1693 01:13:15,608 --> 01:13:19,133 ...e sempre Eu, tipo, subo uma colina, 1694 01:13:19,177 --> 01:13:20,744 Acho que cheguei ao topo, 1695 01:13:20,787 --> 01:13:23,399 mas simplesmente continua e indo e indo. 1696 01:13:23,442 --> 01:13:24,530 [a câmera clica, zumbe] 1697 01:13:24,574 --> 01:13:26,967 Mas de tudo que ouvi, 1698 01:13:27,011 --> 01:13:30,362 se eu tivesse que adivinhar o que é no topo da Montanha da Ansiedade, 1699 01:13:30,406 --> 01:13:34,192 são esses cinco CEOs destas cinco empresas, 1700 01:13:34,235 --> 01:13:37,630 que são meio parecidos com Oppenheimers deste momento. 1701 01:13:37,674 --> 01:13:39,458 Esses são os caras que estão construindo essa coisa. 1702 01:13:39,502 --> 01:13:40,807 Sim. 1703 01:13:40,851 --> 01:13:44,158 Tipo, existe um plano? 1704 01:13:44,202 --> 01:13:46,422 O chefe da empresa isso torna o ChatGPT 1705 01:13:46,465 --> 01:13:49,947 avisado de possível danos significativos ao mundo. 1706 01:13:49,990 --> 01:13:52,384 Eu acho que, se esta tecnologia dá errado, 1707 01:13:52,428 --> 01:13:53,472 pode dar muito errado. 1708 01:13:53,516 --> 01:13:55,779 [explosões de conversa distinta] 1709 01:13:55,822 --> 01:13:57,781 Daniel: Cinco caras. 1710 01:13:57,824 --> 01:14:01,567 Eu-eu nunca pensei em nós como uma empresa de mídia social. 1711 01:14:01,611 --> 01:14:06,050 Parece que tenho que tentar e-e encontrar esses caras... 1712 01:14:06,093 --> 01:14:07,181 Hum-hmm. 1713 01:14:07,225 --> 01:14:09,009 ...e coloque-os no filme. 1714 01:14:10,315 --> 01:14:12,622 Certamente conseguiríamos alguma clareza disso. 1715 01:14:13,666 --> 01:14:14,928 [a câmera clica, zumbe] 1716 01:14:16,582 --> 01:14:19,150 Quero dizer, a responsabilidade tem que parar em algum lugar, certo? 1717 01:14:19,193 --> 01:14:21,152 [vento assobiando] 1718 01:14:21,195 --> 01:14:22,936 ♪ ♪ 1719 01:14:23,981 --> 01:14:25,896 [ferramentas zumbindo e clicando] 1720 01:14:27,071 --> 01:14:29,116 [assobio] 1721 01:14:34,034 --> 01:14:35,296 Daniel: Como é isso? 1722 01:14:35,340 --> 01:14:37,690 -Ótimo. -Tudo bem? 1723 01:14:37,734 --> 01:14:39,431 -Sim. -[conversa indistinta da tripulação] 1724 01:14:39,475 --> 01:14:40,998 -Posso mover o assento para frente? -DANIEL: Sim, você pode. 1725 01:14:41,041 --> 01:14:42,173 É, ah, é só um pouco estranho. 1726 01:14:42,216 --> 01:14:43,566 Estou um pouco, tipo... 1727 01:14:43,609 --> 01:14:45,045 Dário, como você se sente sobre aquela cadeira? 1728 01:14:45,089 --> 01:14:47,004 Hum, sim, a cadeira é boa. 1729 01:14:47,047 --> 01:14:48,832 -Eu só queria movê-lo um pouco para frente. -OK. 1730 01:14:48,875 --> 01:14:50,529 Eu escolhi aquela cadeira. 1731 01:14:50,573 --> 01:14:52,139 -É uma boa cadeira. -Obrigado. 1732 01:14:52,183 --> 01:14:53,619 [celular tocando] 1733 01:14:57,884 --> 01:14:59,495 TED: E apenas sente-se aí. 1734 01:15:01,409 --> 01:15:03,063 E então por aqui, 1735 01:15:03,107 --> 01:15:04,369 estaremos olhando um para o outro através deste vidro. 1736 01:15:04,412 --> 01:15:06,458 [sinal de ocupado apitando] 1737 01:15:11,419 --> 01:15:13,552 E recostando-se na cadeira, inclinando-se para frente? 1738 01:15:13,596 --> 01:15:15,119 -DANIEL: Sim. Bem, seja lá o que for confortável, eu acho. -OK. 1739 01:15:15,162 --> 01:15:16,686 É bem legal. Há um monte de espelhos. 1740 01:15:16,729 --> 01:15:17,817 -Isso é-- ok. -MULHER: Sam A., pegue um. Marca. 1741 01:15:17,861 --> 01:15:19,515 -Como é isso? -Bom. Obrigado. 1742 01:15:19,558 --> 01:15:21,038 DANIEL: A gênese deste projeto é que eu estava 1743 01:15:21,081 --> 01:15:22,822 sentado em casa, e eu estava brincando com, 1744 01:15:22,866 --> 01:15:24,389 Eu acho que seu gerador de imagens, 1745 01:15:24,432 --> 01:15:27,261 e eu estava simultaneamente, ah, apavorado 1746 01:15:27,305 --> 01:15:29,437 -e realmente impressionado. -[ri baixinho] 1747 01:15:29,481 --> 01:15:31,875 -Essa é a combinação usual. -E então corta para 1748 01:15:31,918 --> 01:15:34,617 minha esposa e eu descobrimos estamos esperando. 1749 01:15:34,660 --> 01:15:38,272 E-e eu estou, tipo, tendo uma crise existencial 1750 01:15:38,316 --> 01:15:40,231 como minha esposa é grávida de seis meses. 1751 01:15:40,274 --> 01:15:42,929 E acho que minha primeira pergunta, que pergunto a todos: 1752 01:15:42,973 --> 01:15:45,453 Agora é um momento terrível ter um filho? 1753 01:15:45,497 --> 01:15:47,368 Estou cometendo um grande erro? 1754 01:15:47,412 --> 01:15:49,022 Estou esperando um filho em março também. Meu primeiro. 1755 01:15:49,066 --> 01:15:50,502 -Você está esperando um filho? -Sim. 1756 01:15:50,546 --> 01:15:51,808 -Você está grávida em março? -Primeiro filho. 1757 01:15:51,851 --> 01:15:53,287 -Mazel tov. -Muito obrigado. 1758 01:15:53,331 --> 01:15:54,462 Eu nunca estive tão animado para qualquer coisa. 1759 01:15:54,506 --> 01:15:56,464 -É assim que me sinto. -Sim. 1760 01:15:56,508 --> 01:15:58,205 Mas você não está com medo? 1761 01:15:58,249 --> 01:16:02,732 Quero dizer, tipo, ter um filho é apenas essa coisa importante 1762 01:16:02,775 --> 01:16:04,995 que eu, você sabe, Eu fico acordado todas as noites, tipo, 1763 01:16:05,038 --> 01:16:06,823 lendo esses livros sobre como criar um filho, 1764 01:16:06,866 --> 01:16:08,215 e eu espero Eu vou fazer um bom trabalho, 1765 01:16:08,259 --> 01:16:09,260 e parece muito esmagador e-- 1766 01:16:09,303 --> 01:16:12,045 mas não estou com medo... 1767 01:16:12,089 --> 01:16:14,047 para as crianças crescerem em um mundo com IA. 1768 01:16:14,091 --> 01:16:16,310 Tipo, isso... vai ficar tudo bem. 1769 01:16:16,354 --> 01:16:19,009 Isso é bom de ouvir vindo do cara. 1770 01:16:19,052 --> 01:16:20,750 Eu acho que é uma ideia maravilhosa ter filhos. 1771 01:16:20,793 --> 01:16:23,230 Eu-eu acho que eles são os mais coisa mágica e incrível. 1772 01:16:23,274 --> 01:16:25,276 -[suspira pesadamente] -Há tanta incerteza, 1773 01:16:25,319 --> 01:16:26,843 eu quase faria o que você vai fazer de qualquer maneira. 1774 01:16:26,886 --> 01:16:28,932 Eu sei que não é uma resposta muito satisfatória, 1775 01:16:28,975 --> 01:16:31,891 mas é o único Eu posso inventar. 1776 01:16:31,935 --> 01:16:34,459 Nossos filhos nunca vão... 1777 01:16:34,502 --> 01:16:37,070 conheço um mundo que não tem IA realmente avançada. 1778 01:16:37,114 --> 01:16:39,856 Na verdade, nossos filhos nunca seja mais inteligente que uma IA. 1779 01:16:39,899 --> 01:16:42,075 DANIEL: "Nossos filhos vão nunca será mais inteligente que uma IA"? 1780 01:16:42,119 --> 01:16:44,338 Bem, de uma forma crua, de uma perspectiva de QI bruto, 1781 01:16:44,382 --> 01:16:46,253 eles nunca serão mais inteligente que uma IA. 1782 01:16:46,297 --> 01:16:48,038 Essa noção não perturbar você um pouco? 1783 01:16:48,081 --> 01:16:51,128 Porque isso me faz sentir um pouco enjoado de uma forma estranha. 1784 01:16:51,171 --> 01:16:54,784 Hum, isso me perturba um pouco. 1785 01:16:54,827 --> 01:16:56,263 Mas é a realidade. 1786 01:16:56,307 --> 01:16:58,265 Daniel: Ok, então dinâmica de corrida. 1787 01:16:58,309 --> 01:17:01,007 Temos um monte de gente que estão todos de acordo 1788 01:17:01,051 --> 01:17:02,879 que isso é assustador. 1789 01:17:02,922 --> 01:17:04,750 Com base nos prazos que muitas pessoas me deram, 1790 01:17:04,794 --> 01:17:07,013 temos entre dois meses e cinco anos para descobrir isso. 1791 01:17:07,057 --> 01:17:08,667 -Sim. -E-e, eu acho, 1792 01:17:08,711 --> 01:17:12,845 minha maior dúvida é: Por que não podemos simplesmente parar? 1793 01:17:14,499 --> 01:17:19,069 O problema com, uh, uh, "apenas parar" é isso, hum, 1794 01:17:19,112 --> 01:17:22,202 existem muitos, muitos grupos agora ao redor do mundo, uh, uh, 1795 01:17:22,246 --> 01:17:25,684 construindo isso, para muitas nações, muitas empresas, 1796 01:17:25,728 --> 01:17:28,121 hum, todos com motivações diferentes. 1797 01:17:28,165 --> 01:17:30,776 Existem alguns essas empresas neste espaço 1798 01:17:30,820 --> 01:17:33,997 qual é a posição deles: "Queremos para desenvolver esta tecnologia 1799 01:17:34,040 --> 01:17:36,042 absolutamente o mais rápido possível." 1800 01:17:36,086 --> 01:17:40,046 E mesmo se pudéssemos aprovar leis nos EUA e na Europa, 1801 01:17:40,090 --> 01:17:42,396 precisamos convencer... 1802 01:17:42,440 --> 01:17:44,964 Xi Jinping e Vladimir Putin ou, você sabe, 1803 01:17:45,008 --> 01:17:47,445 quem quer que seja seu científico os conselheiros estão do seu lado. 1804 01:17:47,488 --> 01:17:49,229 Isso vai ser muito difícil. 1805 01:17:49,273 --> 01:17:50,927 Eu acho que é verdade 1806 01:17:50,970 --> 01:17:53,581 que se duas pessoas estiverem exatamente no mesmo lugar, 1807 01:17:53,625 --> 01:17:55,888 uh, aquele que está disposto a aceitar mais atalhos em segurança 1808 01:17:55,932 --> 01:17:58,064 deveria meio que "chegue lá primeiro." 1809 01:17:58,108 --> 01:18:01,067 Ah, mas... 1810 01:18:01,111 --> 01:18:02,939 podemos usar nossa liderança 1811 01:18:02,982 --> 01:18:05,985 passar muito mais tempo fazendo testes de segurança. 1812 01:18:06,029 --> 01:18:07,987 Daniel: E e se você perdê-lo? 1813 01:18:08,031 --> 01:18:09,597 Você recebe a ligação e você descobre 1814 01:18:09,641 --> 01:18:11,687 que você está agora, digamos, seis meses atrasado. 1815 01:18:11,730 --> 01:18:14,254 -O-O que acontece então? -Depende de quem estamos atrás. 1816 01:18:14,298 --> 01:18:16,822 Se for, tipo, um governo adversário, 1817 01:18:16,866 --> 01:18:18,824 isso provavelmente é muito ruim. 1818 01:18:18,868 --> 01:18:21,348 Então, digamos que você receba a ligação que a China tem um, 1819 01:18:21,392 --> 01:18:24,787 tem um recursivamente agente de autoaperfeiçoamento 1820 01:18:24,830 --> 01:18:27,180 ou algo assim que nós deveria estar realmente preocupado. 1821 01:18:27,224 --> 01:18:29,226 O que... o que acontece? 1822 01:18:30,967 --> 01:18:32,403 Hum... 1823 01:18:35,406 --> 01:18:37,234 Esse caso exigiria... 1824 01:18:37,277 --> 01:18:40,672 o primeiro passo seria para falar com o governo dos EUA. 1825 01:18:40,716 --> 01:18:42,935 Sam, você confia no capacidade do governo para lidar 1826 01:18:42,979 --> 01:18:44,676 algo assim? 1827 01:18:45,895 --> 01:18:47,766 Sim, eu quero, na verdade. 1828 01:18:47,810 --> 01:18:49,550 Há outras coisas que eu não confiar no governo para lidar com isso, 1829 01:18:49,594 --> 01:18:51,161 mas esse cenário específico, acho que eles saberiam... 1830 01:18:51,204 --> 01:18:52,771 eles-eles-- sim. 1831 01:18:52,815 --> 01:18:54,425 DANIEL: Quando você tiver, tipo, discussões privadas 1832 01:18:54,468 --> 01:18:56,383 com os outros caras cujos os dedos estão no gatilho, 1833 01:18:56,427 --> 01:18:59,604 por assim dizer, hum, fazer aquelas discussões privadas 1834 01:18:59,647 --> 01:19:01,301 te encher de confiança 1835 01:19:01,345 --> 01:19:03,347 ou eles fazem você, ah, mais ansioso? 1836 01:19:03,390 --> 01:19:07,090 Olha, quero dizer, eu sei alguns deles melhor do que outros. 1837 01:19:07,133 --> 01:19:10,136 Hum, eu tenho mais confiança em alguns deles, do que eu tenho 1838 01:19:10,180 --> 01:19:12,356 em outros, você sabe, como com, como com qualquer pessoa. 1839 01:19:12,399 --> 01:19:14,140 Você sabe, você pensa, você sabe, 1840 01:19:14,184 --> 01:19:15,838 as crianças da sua escola aula ou algo assim, certo? 1841 01:19:15,881 --> 01:19:18,275 Você sabe, alguns deles são, você sabe, muito fofo. 1842 01:19:18,318 --> 01:19:20,407 Alguns deles são bem-intencionados mas não tão eficaz. 1843 01:19:20,451 --> 01:19:22,366 Alguns deles são, você sabe, valentões. 1844 01:19:22,409 --> 01:19:23,759 Alguns deles são pessoas realmente ruins. 1845 01:19:23,802 --> 01:19:25,673 [gagueja] Você, você meio que realmente, 1846 01:19:25,717 --> 01:19:27,066 você realmente vê a propagação. 1847 01:19:27,110 --> 01:19:28,807 Você sabe, eu sou, eu sou, estou confiante 1848 01:19:28,851 --> 01:19:30,548 que todo mundo vai fazer a coisa certa, 1849 01:19:30,591 --> 01:19:32,028 que tudo vai dar certo? 1850 01:19:32,071 --> 01:19:33,856 Hum, não, não estou. 1851 01:19:33,899 --> 01:19:35,509 E não há nada Eu posso fazer isso, certo? 1852 01:19:35,553 --> 01:19:37,773 Você sabe, tudo que posso fazer é-é um impulso para o, 1853 01:19:37,816 --> 01:19:39,165 empurre para o, você sabe, 1854 01:19:39,209 --> 01:19:40,776 pressionar pelo governo para se envolver. 1855 01:19:40,819 --> 01:19:42,647 Mas no final das contas estou apenas uma pessoa lá também. 1856 01:19:42,690 --> 01:19:44,127 Isso é-- depende de todos nós 1857 01:19:44,170 --> 01:19:46,042 pressionar pelo governo para se envolver. 1858 01:19:46,085 --> 01:19:48,479 Essa é a coisa número um isso-que eu acho que precisamos fazer 1859 01:19:48,522 --> 01:19:50,916 to-to, você sabe, para definir as coisas na direção certa. 1860 01:19:50,960 --> 01:19:52,744 O que me deixa ansioso sobre isso é, tipo, 1861 01:19:52,788 --> 01:19:56,182 a realidade básica de que o velocidade com que a tecnologia 1862 01:19:56,226 --> 01:19:58,402 está proliferando e crescendo é exponencial, 1863 01:19:58,445 --> 01:20:01,448 e os mecanismos para legislar tem 300 anos, 1864 01:20:01,492 --> 01:20:02,928 -leva para sempre. -Sim. 1865 01:20:02,972 --> 01:20:05,104 Hum, eu-eu acho vai ser um trabalho pesado. 1866 01:20:05,148 --> 01:20:06,889 Eu-eu definitivamente concordo com você nisso. 1867 01:20:06,932 --> 01:20:08,891 DANIEL: Você sabe, o que estou literalmente procurando 1868 01:20:08,934 --> 01:20:11,241 é-é tipo, "Aqui estão etapas que, como, 1869 01:20:11,284 --> 01:20:15,158 "os chefões vão levar para focar na segurança, 1870 01:20:15,201 --> 01:20:18,117 para mitigar o perigo e maximizar a promessa." 1871 01:20:18,161 --> 01:20:20,119 E eu não, Eu não, eu não sei 1872 01:20:20,163 --> 01:20:21,817 que há uma resposta simples para isso. 1873 01:20:21,860 --> 01:20:23,296 Hum... 1874 01:20:25,951 --> 01:20:27,561 Quero dizer, isso talvez seja muito simples, 1875 01:20:27,605 --> 01:20:30,173 mas você... 1876 01:20:30,216 --> 01:20:31,957 criar um novo modelo, 1877 01:20:32,001 --> 01:20:34,786 você estuda e testa com muito cuidado. 1878 01:20:34,830 --> 01:20:37,223 Você colocou isso para fora gradualmente no mundo, 1879 01:20:37,267 --> 01:20:39,530 e então, cada vez mais, você entende 1880 01:20:39,573 --> 01:20:41,227 se isso é seguro ou não, e então se for, 1881 01:20:41,271 --> 01:20:42,707 você pode dar o próximo passo. 1882 01:20:44,404 --> 01:20:47,103 Não parece tão chamativo como, tipo, um cientista brilhante 1883 01:20:47,146 --> 01:20:50,454 ter uma ideia em um laboratório para fazer um sistema de IA, como, 1884 01:20:50,497 --> 01:20:53,979 perfeitamente seguro e controlável e tudo mais, 1885 01:20:54,023 --> 01:20:55,720 mas é o que eu acredito vai acontecer. 1886 01:20:55,763 --> 01:20:57,287 Tipo, é o caminho Eu acho que isso funciona. 1887 01:20:57,330 --> 01:20:59,289 Mas vamos apenas dizer algo terrível acontece, 1888 01:20:59,332 --> 01:21:01,813 como um modelo se solta ou fica desonesto ou algo assim. 1889 01:21:01,857 --> 01:21:03,467 Existe um protocolo? 1890 01:21:03,510 --> 01:21:05,817 Tipo, literalmente, Estou imaginando um telefone vermelho. 1891 01:21:05,861 --> 01:21:07,123 -Sim. -Desculpe por pensar nisso 1892 01:21:07,166 --> 01:21:08,515 em termos de filmes, mas, tipo... 1893 01:21:08,559 --> 01:21:09,995 Existe um protocolo. 1894 01:21:10,039 --> 01:21:11,475 -Existe um telefone vermelho na sua mesa? -Não. 1895 01:21:11,518 --> 01:21:13,216 [risos]: É um segredo? 1896 01:21:13,259 --> 01:21:15,392 Quero dizer, uh, não, não é, não é tão sofisticado ou dramático 1897 01:21:15,435 --> 01:21:17,176 como você, tipo, esperaria, mas tem, tipo, você sabe... 1898 01:21:17,220 --> 01:21:18,874 nós, tipo, pensamos bem esses cenários, 1899 01:21:18,917 --> 01:21:20,527 e se isso acontecer, vamos ligar para essas pessoas 1900 01:21:20,571 --> 01:21:21,964 nesta ordem e faça isso 1901 01:21:22,007 --> 01:21:23,443 e tipo de fazer essas decisões se, tipo... 1902 01:21:23,487 --> 01:21:26,055 Eu acredito nisso quando você tiver uma oportunidade 1903 01:21:26,098 --> 01:21:29,058 para pensar antes uma situação estressante acontece, 1904 01:21:29,101 --> 01:21:30,407 isso é quase sempre uma boa ideia. 1905 01:21:30,450 --> 01:21:31,756 E anotá-lo é útil. 1906 01:21:31,799 --> 01:21:33,279 -Estar preparado é útil. -Sim. 1907 01:21:34,324 --> 01:21:36,021 [suspira] Você... 1908 01:21:36,065 --> 01:21:38,763 Seria impossível para eu sentar na sua frente 1909 01:21:38,806 --> 01:21:41,157 e-e peço que você me prometa que isso vai dar certo? 1910 01:21:41,200 --> 01:21:43,855 Isso é impossível. 1911 01:21:43,899 --> 01:21:45,683 Não há respostas fáceis, infelizmente. 1912 01:21:45,726 --> 01:21:48,077 Uh, porque é tal uma tecnologia de ponta, 1913 01:21:48,120 --> 01:21:49,774 hum, ainda há muitas incógnitas. 1914 01:21:49,817 --> 01:21:52,255 E eu acho que isso-isso precisa ser, 1915 01:21:52,298 --> 01:21:55,040 hum, uh, você sabe, entendido 1916 01:21:55,084 --> 01:21:58,957 e-e daí a necessidade para, uh, uh, alguma cautela. 1917 01:21:59,001 --> 01:22:00,872 Eu acordo, você sabe, todos os dias, 1918 01:22:00,916 --> 01:22:03,440 este é o, este é o é a primeira coisa em que penso. 1919 01:22:03,483 --> 01:22:05,137 Agora, olhe, eu sou humano, 1920 01:22:05,181 --> 01:22:08,358 e, você sabe, tem-tem cada decisão foi perfeita? 1921 01:22:08,401 --> 01:22:11,622 Posso ao menos dizer minhas motivações sempre foram perfeitamente claros? 1922 01:22:11,665 --> 01:22:13,537 Claro que não. Ninguém pode dizer isso. 1923 01:22:13,580 --> 01:22:16,366 Tipo, isso é só não, tipo, você sabe... 1924 01:22:16,409 --> 01:22:18,629 isso é-isso simplesmente não é como as pessoas trabalham. 1925 01:22:18,672 --> 01:22:21,023 A-a história da ciência tende a ser isso, 1926 01:22:21,066 --> 01:22:23,547 para melhor ou para pior, se algo for possível fazer-- 1927 01:22:23,590 --> 01:22:26,985 e agora sabemos que a IA é possível fazer - a humanidade faz isso. 1928 01:22:27,029 --> 01:22:29,727 Tudo isso ia acontecer. 1929 01:22:29,770 --> 01:22:32,295 Este-este trem não vai parar. 1930 01:22:32,338 --> 01:22:34,253 Você não pode ficar na frente o trem e pará-lo. 1931 01:22:34,297 --> 01:22:36,255 Você simplesmente vai ser esmagado. 1932 01:22:36,299 --> 01:22:38,388 ALTMAN: Quer dizer, é muito estressante. 1933 01:22:39,606 --> 01:22:41,043 Você sabe, há, tipo, 1934 01:22:41,086 --> 01:22:42,653 muitas coisas muitos de nós não sabemos. 1935 01:22:42,696 --> 01:22:46,352 Eu acho que a história da descoberta científica é 1936 01:22:46,396 --> 01:22:48,267 um de não saber o que você não sabe 1937 01:22:48,311 --> 01:22:49,660 e descobrir conforme você avança. 1938 01:22:49,703 --> 01:22:52,968 Uh, mas, sim, é um... 1939 01:22:53,011 --> 01:22:56,580 é uma maneira estressante de viver. 1940 01:22:56,623 --> 01:22:58,756 DANIEL: Certo. Sam, obrigado muito por fazer isso. 1941 01:22:58,799 --> 01:23:00,497 -E de novo, mazel tov. -Obrigado. E para você. 1942 01:23:00,540 --> 01:23:02,673 Muito obrigado. Obrigado, pessoal. 1943 01:23:02,716 --> 01:23:05,458 ♪ ♪ 1944 01:23:07,678 --> 01:23:08,984 [suspira] 1945 01:23:10,986 --> 01:23:13,162 [eletricidade crepitando] 1946 01:23:13,205 --> 01:23:15,599 -[trovão estala] -[assobiando, grunhindo] 1947 01:23:42,626 --> 01:23:44,628 -[cliques do videocassete] -[linha tocando] 1948 01:23:47,848 --> 01:23:49,285 -[cliques na linha] -KEVIN ROHER: Olá. 1949 01:23:49,328 --> 01:23:50,547 Daniel: Ei, pai, como você está? 1950 01:23:50,590 --> 01:23:51,591 KEVIN: Bom. Como você está? 1951 01:23:51,635 --> 01:23:53,071 Você está trabalhando? O que você está fazendo? 1952 01:23:53,115 --> 01:23:55,247 Daniel: Estou trabalhando neste filme de IA. 1953 01:23:55,291 --> 01:23:57,815 KEVIN: E como vai? 1954 01:23:57,858 --> 01:24:00,426 Daniel: Você sabe, é... é realmente... 1955 01:24:00,470 --> 01:24:02,167 -JOANNE ROHER: Olá, querido. -DANIEL: Oi, mãe. 1956 01:24:02,211 --> 01:24:03,864 JOANNE: Então o que é a premissa do filme? 1957 01:24:03,908 --> 01:24:06,519 É um documentário? Kev, não use mais temperos. 1958 01:24:06,563 --> 01:24:08,304 Já está muito apimentado. 1959 01:24:08,347 --> 01:24:10,436 Estamos fazendo frango agora. 1960 01:24:10,480 --> 01:24:12,612 -É um documentário ou o que... -DANIEL: É sobre-- 1961 01:24:12,656 --> 01:24:13,961 o filme é sobre o fim do mundo. 1962 01:24:14,005 --> 01:24:15,789 O fim do mundo está chegando, 1963 01:24:15,833 --> 01:24:17,574 e estamos fazendo um filme sobre o fim do mundo. 1964 01:24:17,617 --> 01:24:19,837 -JOANNE: Sério? -DANIEL: Sim. 1965 01:24:19,880 --> 01:24:21,578 KEVIN: Meio deprimente filme, parece. 1966 01:24:21,621 --> 01:24:23,449 JOANA: Sim. 1967 01:24:23,493 --> 01:24:28,976 DANIEL: Estou me sentindo muito, tipo... essa ansiedade muito aguda. 1968 01:24:29,020 --> 01:24:31,370 JOANNE: É tão assustador, mas tem que haver-- 1969 01:24:31,414 --> 01:24:35,287 você sabe, você tem se encontrado algumas pessoas superinteligentes 1970 01:24:35,331 --> 01:24:37,768 que estão lhe dando alguma resposta? 1971 01:24:37,811 --> 01:24:39,465 DANIEL: Isso é o que frustrante com isso. 1972 01:24:39,509 --> 01:24:41,337 Ninguém sabe. 1973 01:24:41,380 --> 01:24:43,904 JOANA: Tudo o que posso dizer sobre isso é que 1974 01:24:43,948 --> 01:24:49,867 cada geração teve algo assustador como isso. 1975 01:24:49,910 --> 01:24:52,217 KEVIN: Quando eu nasci, era a crise dos mísseis cubanos. 1976 01:24:52,261 --> 01:24:54,263 [batimento cardíaco constante] 1977 01:24:54,306 --> 01:24:56,352 Eu só estava com medo de que houvesse seria uma guerra nuclear. 1978 01:24:56,395 --> 01:24:57,744 JOANA: Sim, mas não sabíamos 1979 01:24:57,788 --> 01:24:59,094 o que eles iriam fazer e... 1980 01:24:59,137 --> 01:25:00,530 KEVIN: E o mundo não acabou. 1981 01:25:00,573 --> 01:25:01,618 Todo mundo acordou na manhã seguinte, 1982 01:25:01,661 --> 01:25:03,402 e ainda estamos fazendo nossas coisas. 1983 01:25:03,446 --> 01:25:04,969 Daniel: Estou com muito medo, 1984 01:25:05,012 --> 01:25:06,840 especialmente em o contexto de, tipo, 1985 01:25:06,884 --> 01:25:09,147 -você sabe, o bebê e... -[batimento cardíaco fetal pulsando] 1986 01:25:09,191 --> 01:25:10,540 KEVIN: Será uma curva de aprendizado. 1987 01:25:10,583 --> 01:25:12,063 JOANA: Você vai ficar bem. 1988 01:25:12,107 --> 01:25:13,064 KEVIN: Você não pode, você não pode pensar 1989 01:25:13,108 --> 01:25:14,326 o que você não pode controlar, Daniel. 1990 01:25:14,370 --> 01:25:16,154 Apenas lembre-se disso. 1991 01:25:16,198 --> 01:25:17,677 DANIEL [voz quebrada]: Estou realmente, estou realmente sentindo 1992 01:25:17,721 --> 01:25:19,201 nervoso e assustado com isso. 1993 01:25:19,244 --> 01:25:21,028 Há tanto que não consigo controlar. 1994 01:25:21,072 --> 01:25:23,857 KEVIN: Não fique nervoso. Você não pode deixar isso afetar você. 1995 01:25:23,901 --> 01:25:26,251 Você só pode controlar o que você pode controlar, 1996 01:25:26,295 --> 01:25:27,905 e isso é tudo que você pode fazer. 1997 01:25:27,948 --> 01:25:30,603 Você não pode fazer mais do que isso. 1998 01:25:30,647 --> 01:25:32,649 Escreva isso em seu livro. 1999 01:25:35,347 --> 01:25:36,870 ♪ ♪ 2000 01:25:44,095 --> 01:25:46,663 [batimento cardíaco fetal pulsando] 2001 01:25:46,706 --> 01:25:49,231 [uivando] 2002 01:25:49,274 --> 01:25:51,581 CAROLINA: Quando você olha para trás, 2003 01:25:51,624 --> 01:25:54,453 o mundo está sempre acabando. 2004 01:25:54,497 --> 01:25:56,803 E quando você olha para frente, 2005 01:25:56,847 --> 01:25:59,241 o mundo está sempre acabando. 2006 01:25:59,284 --> 01:26:02,157 ...em chamas. Uma casa já está pegando fogo... 2007 01:26:02,200 --> 01:26:05,377 CAROLINE: Mas o mundo está sempre começando também. 2008 01:26:07,988 --> 01:26:09,947 Daniel: Você está pronto? 2009 01:26:09,990 --> 01:26:11,992 Você está realmente pronto? 2010 01:26:15,909 --> 01:26:17,650 DANIEL: Você quer dirigir ou você quer que eu dirija? 2011 01:26:17,694 --> 01:26:18,782 CAROLINA: Você dirige. 2012 01:26:20,479 --> 01:26:21,828 -[mulher fala indistintamente] -CAROLINA: Ok. 2013 01:26:21,872 --> 01:26:23,700 Daniel: Obrigado, Maria. 2014 01:26:23,743 --> 01:26:26,268 MULHER: Vai apenas sinto muita cólica. 2015 01:26:26,311 --> 01:26:27,791 -CAROLINA: Ok. -MULHER: Você está pronto? 2016 01:26:27,834 --> 01:26:29,053 -CAROLINA: Sim. -[conversa indistinta] 2017 01:26:29,096 --> 01:26:30,924 [Caroline suspira pesadamente] 2018 01:26:30,968 --> 01:26:32,404 MULHER: Você poderia estar em um drama médico com tudo isso... 2019 01:26:33,840 --> 01:26:35,842 ♪ ♪ 2020 01:26:44,329 --> 01:26:45,896 -[estalos estáticos] -[conversa indistinta] 2021 01:26:49,116 --> 01:26:51,075 MULHER: ...alguma pressão. 2022 01:26:52,685 --> 01:26:54,078 Apenas relaxe. 2023 01:26:56,907 --> 01:26:59,214 -[bebê chorando] -[dispositivo apitando] 2024 01:27:02,129 --> 01:27:04,915 Daniel: Olá, amigo. Ah, sim. 2025 01:27:04,958 --> 01:27:06,438 Olá, amigo. 2026 01:27:06,482 --> 01:27:08,484 ♪ ♪ 2027 01:27:31,202 --> 01:27:33,683 KEVIN: Vai ser um mundo totalmente novo 2028 01:27:33,726 --> 01:27:35,032 para você, Daniel. 2029 01:27:37,208 --> 01:27:40,080 E eu acho que você vai ficar um pai incrível. 2030 01:27:41,517 --> 01:27:44,346 JOANNE [risos]: Isso é certo. 2031 01:27:44,389 --> 01:27:46,609 -[Kevin chorando] -Ah. 2032 01:27:46,652 --> 01:27:48,654 [o choro continua] 2033 01:27:48,698 --> 01:27:50,787 KEVIN: Você fará um ótimo trabalho. 2034 01:27:51,788 --> 01:27:53,050 JOANA: Kev, por que você está chorando? 2035 01:27:53,093 --> 01:27:54,617 KEVIN: Estou chorando porque... 2036 01:27:54,660 --> 01:27:57,054 Eu não sei. Eu simplesmente não... 2037 01:27:57,097 --> 01:27:59,317 DANIEL: Pai, você vai me faça chorar também. 2038 01:27:59,361 --> 01:28:00,710 Por que você está chorando? 2039 01:28:03,190 --> 01:28:05,497 KEVIN: Eu simplesmente sei disso você vai ser um pai incrível. 2040 01:28:05,541 --> 01:28:07,107 DANIEL [chorando]: Eu só vou ser um ótimo pai 2041 01:28:07,151 --> 01:28:09,675 porque eu tive um ótimo pai. 2042 01:28:09,719 --> 01:28:12,287 KEVIN: Estou ficando emocionado, isso é tudo. 2043 01:28:12,330 --> 01:28:13,679 JOANA: Ah. 2044 01:28:13,723 --> 01:28:14,898 [conversa divertida por vídeo] 2045 01:28:14,941 --> 01:28:16,552 [no vídeo]: Rapaz, ah, rapaz! 2046 01:28:16,595 --> 01:28:17,857 Meu Deus! 2047 01:28:18,902 --> 01:28:20,817 Olhe para essas pequenas atrevidas. 2048 01:28:20,860 --> 01:28:24,777 Olhe para essas pequenas atrevidas. Olhe para essas pequenas atrevidas. 2049 01:28:24,821 --> 01:28:26,344 Sim. 2050 01:28:26,388 --> 01:28:28,433 Daniel: Eu sei como terminar esse filme. 2051 01:28:29,478 --> 01:28:32,263 Bebês. 2052 01:28:32,307 --> 01:28:35,266 -O final do filme é sobre bebês.-[conversa sobre vídeos] 2053 01:28:35,310 --> 01:28:37,094 Eles são uma afirmação da vida. 2054 01:28:37,137 --> 01:28:38,922 Eles são exaustivos. 2055 01:28:38,965 --> 01:28:40,793 -[bebê rindo] -Eles são hilários. 2056 01:28:40,837 --> 01:28:42,665 E eles valem a pena. 2057 01:28:42,708 --> 01:28:46,451 Este filme não é sobre funcionamento interno de uma tecnologia. 2058 01:28:46,495 --> 01:28:48,235 Não se trata os CEOs bilionários. 2059 01:28:48,279 --> 01:28:50,194 Não se trata de geopolítica. 2060 01:28:50,237 --> 01:28:53,589 Não se trata do aterrorizante futuro ou o fim do mundo, 2061 01:28:53,632 --> 01:28:55,678 porque meu mundo está apenas começando. 2062 01:28:55,721 --> 01:28:57,375 Estou construindo um berço. 2063 01:28:57,419 --> 01:28:59,290 Bem aqui, agora mesmo. 2064 01:28:59,334 --> 01:29:00,465 [bebê arrulhando] 2065 01:29:00,509 --> 01:29:02,337 A IA vai mudar tudo 2066 01:29:02,380 --> 01:29:05,601 de maneiras muito poderosas e complexo para entendermos. 2067 01:29:05,644 --> 01:29:08,952 E o futuro não é para qualquer um de nós decidir. 2068 01:29:10,736 --> 01:29:13,609 Mas o que posso decidir é ser o melhor marido possível 2069 01:29:13,652 --> 01:29:17,700 para minha esposa e o melhor possível pai para meu filho. 2070 01:29:17,743 --> 01:29:21,399 Então, se o nosso futuro em IA é uma distopia de pesadelo 2071 01:29:21,443 --> 01:29:23,836 ou a utopia que todos sonhamos, 2072 01:29:23,880 --> 01:29:26,883 eu pelo menos saberei que eu fiz tudo que pude 2073 01:29:26,926 --> 01:29:30,103 para guiar minha família através desta revolução da IA. 2074 01:29:30,147 --> 01:29:33,846 E não importa o que aconteça, estaremos enfrentando isso juntos. 2075 01:29:33,890 --> 01:29:35,195 [música edificante aumenta] 2076 01:29:35,239 --> 01:29:36,806 [a música para abruptamente] 2077 01:29:36,849 --> 01:29:40,505 Daniel: Então essa é apenas a nossa primeira ideia. 2078 01:29:40,549 --> 01:29:42,812 Como é isso? Você está sentindo isso? 2079 01:29:42,855 --> 01:29:45,249 Espere, eu... tipo, isso não é... isso é uma piada. 2080 01:29:45,292 --> 01:29:47,425 Na verdade não é como você vai acabar com isso. 2081 01:29:50,036 --> 01:29:52,648 Quero dizer, é apenas uma ideia. OK? 2082 01:29:52,691 --> 01:29:54,389 Não, Danilo. 2083 01:29:54,432 --> 01:29:56,129 ...uh, muito, muito idiota. 2084 01:29:56,173 --> 01:29:58,915 Você acabou de gastar, eu não sabe, tipo, quantos anos 2085 01:29:58,958 --> 01:30:02,571 da nossa vida trabalhando nisso, conversando com todos os principais especialistas 2086 01:30:02,614 --> 01:30:04,964 no planeta sobre o assunto, 2087 01:30:05,008 --> 01:30:07,663 e você vai acabar com isso 2088 01:30:07,706 --> 01:30:10,796 com alguns, tipo, besteira kumbaya? 2089 01:30:10,840 --> 01:30:13,495 Há um asteróide dirigiu-se para a Terra. 2090 01:30:13,538 --> 01:30:15,497 O que você faz? Apenas... 2091 01:30:15,540 --> 01:30:17,629 dar as mãos e espero que dê certo, tudo bem? 2092 01:30:17,673 --> 01:30:19,414 Absolutamente não. 2093 01:30:19,457 --> 01:30:22,286 Nós temos que-- isso ha-- tem que ser... 2094 01:30:22,329 --> 01:30:24,419 O final tem que... 2095 01:30:25,855 --> 01:30:27,900 CAROLINA: Ok, primeira coisa: 2096 01:30:27,944 --> 01:30:31,426 A IA está aqui, e está aqui para ficar. 2097 01:30:31,469 --> 01:30:32,905 A merda está fora do cavalo, 2098 01:30:32,949 --> 01:30:35,430 mas o cavalo é vou continuar cagando. 2099 01:30:38,171 --> 01:30:39,651 [multidão aplaudindo] 2100 01:30:39,695 --> 01:30:41,566 Você sabe, um dos princípios básicos leis da história 2101 01:30:41,610 --> 01:30:44,003 é que nada realmente tem um começo 2102 01:30:44,047 --> 01:30:45,962 e nada tem fim. 2103 01:30:46,005 --> 01:30:47,703 Simplesmente continua. 2104 01:30:47,746 --> 01:30:50,532 A IA não está nem perto seu pleno desenvolvimento. 2105 01:30:50,575 --> 01:30:52,795 CAROLINA: Mesmo que a atual bolha de IA estourou, 2106 01:30:52,838 --> 01:30:54,579 -os humanos nunca vão parar -[sopros barulhentos] 2107 01:30:54,623 --> 01:30:57,539 construindo cada vez mais tecnologia poderosa. 2108 01:30:57,582 --> 01:30:59,410 HAO: Você pode optar por não usar IA 2109 01:30:59,454 --> 01:31:02,239 ou participar dele, mas é vai afetar você de qualquer maneira. 2110 01:31:02,282 --> 01:31:04,023 DANIEL: Ok, fantástico. Então estamos ferrados. 2111 01:31:04,067 --> 01:31:06,635 CAROLINA: Não, não estamos por causa de uma coisa simples. 2112 01:31:10,943 --> 01:31:12,989 Isto não é inevitável. 2113 01:31:13,032 --> 01:31:15,208 Se pudéssemos ver isso claramente juntos, 2114 01:31:15,252 --> 01:31:18,342 a resposta óbvia será para escolher algo diferente. 2115 01:31:18,385 --> 01:31:21,040 Precisamos muito claramente mudar o jogo 2116 01:31:21,084 --> 01:31:23,129 de uma corrida para o fundo em uma corrida até o topo. 2117 01:31:23,173 --> 01:31:27,438 LEAHY: O problema que precisamos resolver resolver não é IA especificamente. 2118 01:31:27,482 --> 01:31:31,224 É a questão geral de como construímos uma sociedade 2119 01:31:31,268 --> 01:31:33,879 que pode lidar com tecnologia poderosa. 2120 01:31:33,923 --> 01:31:35,359 Porque vamos conseguir 2121 01:31:35,402 --> 01:31:36,795 só que cada vez mais poderoso tecnologia. 2122 01:31:36,839 --> 01:31:39,668 CAROLINA: Precisamos atualizar nossa sociedade, 2123 01:31:39,711 --> 01:31:41,496 e o primeiro passo é vindo juntos 2124 01:31:41,539 --> 01:31:43,367 -e exigente... -TODOS: Coordenação. 2125 01:31:43,410 --> 01:31:47,023 Alguma forma de internacional cooperação ou acordo sobre 2126 01:31:47,066 --> 01:31:48,503 quais deveriam ser as normas. 2127 01:31:48,546 --> 01:31:49,895 Você sabe, como deveria eles sejam implantados... 2128 01:31:49,939 --> 01:31:51,549 Tipo, de verdade diplomacia internacional 2129 01:31:51,593 --> 01:31:53,290 entre as superpotências. 2130 01:31:53,333 --> 01:31:56,293 Os chineses estão tão preocupados sobre isso como os americanos. 2131 01:31:56,336 --> 01:31:57,729 Eu acho que é difícil, você sabe, 2132 01:31:57,773 --> 01:31:59,514 no atual clima geopolítico, 2133 01:31:59,557 --> 01:32:01,254 -mas acho que é necessário. -RASKIN: Absolutamente. 2134 01:32:01,298 --> 01:32:04,693 Exatamente da mesma maneira que a última vez que a humanidade 2135 01:32:04,736 --> 01:32:09,611 desenvolveu uma tecnologia isso é perigoso... 2136 01:32:09,654 --> 01:32:12,396 ...que exigia um trabalho completo, mudança sem precedentes 2137 01:32:12,439 --> 01:32:15,530 à estrutura do nosso mundo. 2138 01:32:15,573 --> 01:32:17,619 CAROLINA: Então precisamos fazer isso completo, 2139 01:32:17,662 --> 01:32:20,883 mudança sem precedentes novamente. 2140 01:32:20,926 --> 01:32:24,103 Você sabe, nós conversamos com as pessoas que trabalham nessas empresas de IA, 2141 01:32:24,147 --> 01:32:25,322 e eles dizem que querem fazer algo diferente, 2142 01:32:25,365 --> 01:32:26,628 mas eles precisam de pressão pública. 2143 01:32:26,671 --> 01:32:28,151 Eles precisam do governo para fazer alguma coisa. 2144 01:32:28,194 --> 01:32:29,979 Então vamos para DC, e eles dizem: 2145 01:32:30,022 --> 01:32:31,850 "Bem, precisamos do Vale do Silício para fazer algo diferente. 2146 01:32:31,894 --> 01:32:33,635 São eles que vão venha com as grades de proteção." 2147 01:32:33,678 --> 01:32:35,680 E então todo mundo está apontando o dedo para outra pessoa, 2148 01:32:35,724 --> 01:32:39,466 e o que eles concordam é que precisamos de pressão pública 2149 01:32:39,510 --> 01:32:41,207 para que outra coisa acontecer. 2150 01:32:41,251 --> 01:32:42,818 E é isso que você 2151 01:32:42,861 --> 01:32:44,254 e todas as pessoas assistir a esse filme pode fazer. 2152 01:32:44,297 --> 01:32:45,298 CAROLINA: Precisamos segurar os líderes 2153 01:32:45,342 --> 01:32:47,083 em nossos governos 2154 01:32:47,126 --> 01:32:48,563 e os líderes de essas empresas responsáveis. 2155 01:32:48,606 --> 01:32:51,000 BOEREE: Qualquer que seja o país em que você esteja, 2156 01:32:51,043 --> 01:32:52,871 deixe-os saber que você não está feliz 2157 01:32:52,915 --> 01:32:54,569 com o status quo atual. 2158 01:32:54,612 --> 01:32:57,093 Então, sim, é chato dizer ligue para o seu congressista. 2159 01:32:57,136 --> 01:32:59,356 Eu não estou dizendo que você deveria apenas faça isso, mas, tipo, 2160 01:32:59,399 --> 01:33:00,923 nós temos que fazer isso. 2161 01:33:00,966 --> 01:33:02,402 Tipo, nós temos que conseguir o governo envolvido. 2162 01:33:02,446 --> 01:33:03,839 DANIEL: Então nós apenas ligue para eles e diga: 2163 01:33:03,882 --> 01:33:05,971 "Ei, pare com a Big Tech de arruinar o mundo"? 2164 01:33:06,015 --> 01:33:08,887 CAROLINE: Não, mas há toneladas de coisas realmente óbvias, 2165 01:33:08,931 --> 01:33:10,672 coisas simples podemos ser exigentes. 2166 01:33:10,715 --> 01:33:12,499 Precisamos de transparência. 2167 01:33:12,543 --> 01:33:14,240 Precisamos acabar com o sigilo que existe dentro desses laboratórios, 2168 01:33:14,284 --> 01:33:16,634 porque eles estão construindo tecnologia poderosa, 2169 01:33:16,678 --> 01:33:18,680 e o público merece saber o que está acontecendo. 2170 01:33:18,723 --> 01:33:20,682 Em última análise, precisaremos de independência, 2171 01:33:20,725 --> 01:33:23,249 terceiros objetivos para avaliar os sistemas. 2172 01:33:23,293 --> 01:33:27,036 Não podemos contar com as empresas para avaliar seu próprio dever de casa. 2173 01:33:27,079 --> 01:33:31,170 Se-se uma empresa usa IA e-e tem IA interagindo com você, 2174 01:33:31,214 --> 01:33:34,957 deve revelar que você é interagindo com um sistema de IA. 2175 01:33:35,000 --> 01:33:38,613 Sim. E-e também precisamos um sistema que faz com que as empresas 2176 01:33:38,656 --> 01:33:41,833 legalmente responsável pelo Sistemas de IA que eles produzem. 2177 01:33:41,877 --> 01:33:45,750 Precisamos ter certeza de que há são testes e padrões de segurança 2178 01:33:45,794 --> 01:33:48,013 que são aplicados a todos. 2179 01:33:48,057 --> 01:33:49,711 Precisamos de algumas regras básicas, 2180 01:33:49,754 --> 01:33:51,538 e precisamos continuar nos adaptando essas regras 2181 01:33:51,582 --> 01:33:54,585 na velocidade que a tecnologia se desenvolve. 2182 01:33:54,629 --> 01:33:57,153 LEAHY: Atualmente há mais regulamentação 2183 01:33:57,196 --> 01:33:59,285 sobre vender um sanduíche para o público 2184 01:33:59,329 --> 01:34:02,898 do que há na construção AGI potencialmente capaz de acabar com o mundo. 2185 01:34:02,941 --> 01:34:04,682 CAROLINA: E a última coisa é 2186 01:34:04,726 --> 01:34:07,598 para nos atualizarmos. 2187 01:34:07,642 --> 01:34:09,731 Este não é, tipo, o trabalho de, tipo, a equipe de segurança 2188 01:34:09,774 --> 01:34:11,733 em qualquer laboratório ou o CEO. 2189 01:34:11,776 --> 01:34:13,299 Então, tipo, isso é trabalho de todos. 2190 01:34:13,343 --> 01:34:14,779 Não, tipo, deixe isso até os especialistas em IA. 2191 01:34:14,823 --> 01:34:16,955 Tipo, [bip] isso. Tipo, este é o momento 2192 01:34:16,999 --> 01:34:19,262 que estamos em transição de, tipo, 2193 01:34:19,305 --> 01:34:21,525 principalmente poder cognitivo humano para, tipo, poder cognitivo da IA, 2194 01:34:21,568 --> 01:34:23,092 e isso afeta a todos, 2195 01:34:23,135 --> 01:34:24,833 e eu quero que as pessoas sejam nessa conversa. 2196 01:34:24,876 --> 01:34:26,878 E eu diria, se você pensa que a IA vai matar todos nós, 2197 01:34:26,922 --> 01:34:28,488 você deveria estar trabalhando em pesquisa de IA 2198 01:34:28,532 --> 01:34:30,229 para ter certeza de que isso não acontece, porque você tem 2199 01:34:30,273 --> 01:34:32,188 uma enorme quantidade de agência. 2200 01:34:32,231 --> 01:34:33,842 CAROLINA: Seja você quem for, 2201 01:34:33,885 --> 01:34:35,844 você é um especialista em sua própria indústria, 2202 01:34:35,887 --> 01:34:39,151 na sua própria escola, em sua própria família, 2203 01:34:39,195 --> 01:34:42,589 e depende de você como a IA é usada em sua vida. 2204 01:34:42,633 --> 01:34:44,983 Se você deseja participar seu conselho escolar 2205 01:34:45,027 --> 01:34:47,856 ou-ou se você quer perguntar seu empregador 2206 01:34:47,899 --> 01:34:49,379 como eles estão usando tecnologias de IA, 2207 01:34:49,422 --> 01:34:51,947 tipo, todos nós podemos fazer o trabalho. 2208 01:34:51,990 --> 01:34:56,081 Muitos sindicatos foram bastante eficaz em, tipo, 2209 01:34:56,125 --> 01:34:59,041 determinando como eles querem interagir com esses sistemas. 2210 01:34:59,084 --> 01:35:02,697 -Sindicatos de enfermeiros, sindicatos de professores. -[canto indistinto] 2211 01:35:02,740 --> 01:35:04,568 DANIELA AMODEI: Eu adoraria se os pais em todos os lugares 2212 01:35:04,611 --> 01:35:06,135 foi para as empresas de IA e disse: 2213 01:35:06,178 --> 01:35:08,006 "Como você pode ser melhor sobre isso?" Incluindo nós. 2214 01:35:08,050 --> 01:35:11,183 Então, fundei a Encode Justice quando eu tinha 15 anos. 2215 01:35:11,227 --> 01:35:14,839 Somos os primeiros do mundo e maior exército de jovens 2216 01:35:14,883 --> 01:35:18,364 lutando por uma abordagem centrada no ser humano inteligência artificial. 2217 01:35:18,408 --> 01:35:21,019 Não importa quem você é, até as menores ações ajudam, 2218 01:35:21,063 --> 01:35:23,935 e até mesmo uma conversa começando é muito, muito valioso. 2219 01:35:23,979 --> 01:35:25,937 Daniel: Então meu trabalho poderia ser, tipo, 2220 01:35:25,981 --> 01:35:27,939 conte a Bubby Lila sobre isso no jantar? 2221 01:35:27,983 --> 01:35:29,767 CAROLINE: Honestamente, sim, isso faz parte. 2222 01:35:29,811 --> 01:35:31,638 E nós vamos ter que fazer 2223 01:35:31,682 --> 01:35:34,424 muitas coisas que ainda nem pensamos. 2224 01:35:34,467 --> 01:35:36,034 As pessoas vão olhar qualquer coisa que descrevemos 2225 01:35:36,078 --> 01:35:37,253 e dizer: "Isso não é suficiente." 2226 01:35:37,296 --> 01:35:38,950 O que importa é que as forças 2227 01:35:38,994 --> 01:35:40,909 que estão funcionando em direção a soluções 2228 01:35:40,952 --> 01:35:44,434 começar a exceder as forças que estão trabalhando contra soluções. 2229 01:35:44,477 --> 01:35:46,392 Tornando o mundo melhor sempre foi difícil. 2230 01:35:46,436 --> 01:35:47,829 Nunca foi fácil. 2231 01:35:47,872 --> 01:35:49,961 Tipo, houve muitas coisas ruins 2232 01:35:50,005 --> 01:35:51,920 que aconteceram na história, e nós tivemos-- 2233 01:35:51,963 --> 01:35:53,704 tipo, as pessoas tiveram para lidar com isso, 2234 01:35:53,748 --> 01:35:56,794 e então eles se levantaram e mudou. 2235 01:35:56,838 --> 01:36:00,319 Há um número insano dos desafios que temos pela frente, 2236 01:36:00,363 --> 01:36:04,106 mas se conseguirmos ultrapassá-los, 2237 01:36:04,149 --> 01:36:08,066 podemos desbloquear um futuro além nossa imaginação mais selvagem. 2238 01:36:08,110 --> 01:36:10,416 CAROLINA: Temos que nos unir 2239 01:36:10,460 --> 01:36:14,246 e encontre o caminho entre a promessa e o perigo. 2240 01:36:14,290 --> 01:36:16,422 Não podemos ser pessimistas ou otimistas. 2241 01:36:17,423 --> 01:36:19,425 Temos que nos tornar algo novo. 2242 01:36:21,732 --> 01:36:24,474 Um amigo meu me liga um apocalotimista. 2243 01:36:24,517 --> 01:36:26,041 "Apocalotimista"? 2244 01:36:26,084 --> 01:36:28,260 Eu acho que isso pode ser minha nova palavra favorita. 2245 01:36:28,304 --> 01:36:29,914 -[risos] -MAN: Pode ser o nome deste filme. 2246 01:36:29,958 --> 01:36:31,263 -Pode ser o nome deste filme. -[risos] 2247 01:36:31,307 --> 01:36:34,179 -"Apocalotimista." -"Apocalotimista." 2248 01:36:34,223 --> 01:36:35,833 Sim. 2249 01:36:35,877 --> 01:36:37,269 Eu não acredito em desgraça. 2250 01:36:37,313 --> 01:36:39,054 Eu acredito no espírito da vida, 2251 01:36:39,097 --> 01:36:42,666 uh, e eu acredito que a vida é sobre a capacidade de agir. 2252 01:36:42,709 --> 01:36:44,276 -[multidão cantando] -A capacidade de se relacionar, 2253 01:36:44,320 --> 01:36:46,365 a capacidade de sentir. 2254 01:36:49,020 --> 01:36:50,979 -[conversa indistinta sobre missão] -[torcendo] 2255 01:36:51,022 --> 01:36:53,938 Temos que dobrar cada vez mais 2256 01:36:53,982 --> 01:36:57,028 nessas capacidades que temos como humanos 2257 01:36:57,072 --> 01:37:00,118 que os sistemas robóticos nunca terá. 2258 01:37:00,162 --> 01:37:04,296 Chegou a hora para tomar essas decisões sobre 2259 01:37:04,340 --> 01:37:07,473 como orientá-lo e apoiá-lo em vez de nos dividir. 2260 01:37:07,517 --> 01:37:10,259 DANIEL: Parece criando um filho. 2261 01:37:10,302 --> 01:37:12,435 É isso que está acontecendo. Sim. 2262 01:37:12,478 --> 01:37:14,480 CAROLINE: A IA pode ter mais inteligência bruta 2263 01:37:14,524 --> 01:37:17,222 -do que nossos pequenos cérebros humanos, -[bebê rindo] 2264 01:37:17,266 --> 01:37:21,052 mas somos muito mais do que apenas a nossa inteligência. 2265 01:37:21,096 --> 01:37:25,056 Inteligência é-é a capacidade de resolver problemas. 2266 01:37:25,100 --> 01:37:28,320 Sabedoria é a capacidade de saber quais problemas resolver. 2267 01:37:30,932 --> 01:37:33,717 [conversa indistinta da tripulação] 2268 01:37:33,760 --> 01:37:34,892 Daniel: Pode ir para sua geladeira. 2269 01:37:34,936 --> 01:37:36,198 [rindo] 2270 01:37:36,241 --> 01:37:38,113 YUDKOWSKY: Então, não desista. 2271 01:37:38,156 --> 01:37:39,766 A humanidade fez 2272 01:37:39,810 --> 01:37:42,160 coisas mais difíceis que isso em sua história. 2273 01:37:43,553 --> 01:37:46,338 É difícil convencer pessoas que deveriam. 2274 01:37:46,382 --> 01:37:48,645 ♪ ♪ 2275 01:37:51,474 --> 01:37:52,562 [áudio estala] 2276 01:37:54,912 --> 01:37:56,827 DANIEL: Então, quando comecei fazendo esse filme, 2277 01:37:56,871 --> 01:37:58,437 Eu diria que eu estava, tipo, 2278 01:37:58,481 --> 01:38:00,918 amplamente um idiota cínico sobre tudo isso. 2279 01:38:00,962 --> 01:38:03,094 Ao longo do curso de fazer o filme, 2280 01:38:03,138 --> 01:38:04,661 eu vim a entender isso, tipo, 2281 01:38:04,704 --> 01:38:07,446 essa é a única coisa não podemos ser. 2282 01:38:07,490 --> 01:38:09,361 ...ou qualquer outra coisa você gostaria de discutir? 2283 01:38:09,405 --> 01:38:11,363 Não. Acho que cobrimos muita coisa. 2284 01:38:11,407 --> 01:38:13,017 -Sim. [risos] -MAN: Muito obrigado. 2285 01:38:13,061 --> 01:38:15,498 Obrigado. 2286 01:38:15,541 --> 01:38:16,891 Daniel: Este é um problema que é maior 2287 01:38:16,934 --> 01:38:19,067 do que qualquer pessoa. 2288 01:38:19,110 --> 01:38:21,547 Isto mudará o mundo em maneiras que não entendemos. 2289 01:38:21,591 --> 01:38:23,462 Tudo isso é verdade. 2290 01:38:23,506 --> 01:38:25,551 -[risos]: Ok. -[conversa indistinta] 2291 01:38:25,595 --> 01:38:27,684 Daniel: Mas sobre o que temos agência 2292 01:38:27,727 --> 01:38:30,078 é o que fazemos sobre isso. 2293 01:38:30,121 --> 01:38:32,558 À medida que a IA de fronteira cresce exponencialmente mais capaz... 2294 01:38:32,602 --> 01:38:34,430 Daniel: E a realidade 2295 01:38:34,473 --> 01:38:36,562 é que se apenas decidirmos é impossível, 2296 01:38:36,606 --> 01:38:39,000 então é impossível. 2297 01:38:39,043 --> 01:38:40,740 ...para colocar menos estresse no planeta Terra... 2298 01:38:40,784 --> 01:38:42,742 Daniel: Mas se você decidir 2299 01:38:42,786 --> 01:38:45,528 que você quer experimentar... 2300 01:38:46,790 --> 01:38:48,096 ... então você tenta. 2301 01:38:48,139 --> 01:38:49,967 E isso é difícil. 2302 01:38:51,273 --> 01:38:53,188 Mas você sabe o que? 2303 01:38:53,231 --> 01:38:56,278 Grandes coisas parecem impossíveis antes que eles realmente aconteçam. 2304 01:38:58,149 --> 01:39:01,413 Mas quando eles finalmente acontecem, 2305 01:39:01,457 --> 01:39:05,243 é porque milhões de pessoas realizou milhões de ações 2306 01:39:05,287 --> 01:39:07,550 para fazê-los acontecer. 2307 01:39:07,593 --> 01:39:10,292 E então... 2308 01:39:10,335 --> 01:39:12,424 temos que tentar. 2309 01:39:13,469 --> 01:39:14,905 [suspira pesadamente] 2310 01:39:21,129 --> 01:39:23,522 Há muita coisa em jogo. 2311 01:39:23,566 --> 01:39:25,611 ♪ ♪ 2312 01:39:32,401 --> 01:39:34,664 [filme estalando] 2313 01:39:37,232 --> 01:39:41,236 Veja as mudanças incríveis nós experimentamos e sobrevivemos 2314 01:39:41,279 --> 01:39:42,846 da Idade da Pedra, 2315 01:39:42,889 --> 01:39:46,110 e ainda mudanças ainda maiores ainda estão por vir. 2316 01:39:46,154 --> 01:39:49,157 ["Perdi para tentar" por Son Lux tocando] 2317 01:40:18,403 --> 01:40:20,449 ♪ ♪ 2318 01:40:47,606 --> 01:40:50,174 ♪ O que faremos agora? ♪ 2319 01:40:50,218 --> 01:40:53,221 ♪ Perdemos o controle por tentar ♪ 2320 01:40:53,264 --> 01:40:55,092 ♪ Nós perdemos isso ♪ 2321 01:40:55,136 --> 01:40:56,746 ♪ Para tentar ♪ 2322 01:40:59,575 --> 01:41:02,230 ♪ O que faremos agora? ♪ 2323 01:41:02,273 --> 01:41:05,189 ♪ Perdemos o controle por tentar ♪ 2324 01:41:05,233 --> 01:41:06,973 ♪ Nós perdemos isso ♪ 2325 01:41:07,017 --> 01:41:08,714 ♪ Para tentar ♪ 2326 01:41:11,630 --> 01:41:14,111 ♪ O que podemos dizer agora? ♪ 2327 01:41:14,155 --> 01:41:17,201 ♪ Nossas bocas apenas mentem ♪ 2328 01:41:17,245 --> 01:41:18,637 ♪ Nossas bocas ♪ 2329 01:41:18,681 --> 01:41:20,683 ♪ Apenas mentindo ♪ 2330 01:41:25,122 --> 01:41:27,690 ♪ O que podemos dizer agora? ♪ 2331 01:41:27,733 --> 01:41:30,823 ♪ Nossas bocas apenas mentem ♪ 2332 01:41:30,867 --> 01:41:32,216 ♪ Nossas bocas ♪ 2333 01:41:32,260 --> 01:41:34,218 ♪ Apenas mentindo ♪ 2334 01:41:34,262 --> 01:41:36,264 ♪ ♪ 2335 01:42:01,071 --> 01:42:03,726 ♪ Ceda e saia ♪ 2336 01:42:03,769 --> 01:42:06,685 ♪ Nós ressuscitamos na morte ♪ 2337 01:42:06,729 --> 01:42:08,209 ♪ Nós nos levantamos ♪ 2338 01:42:08,252 --> 01:42:10,211 ♪ Na morte ♪ 2339 01:42:13,127 --> 01:42:15,781 ♪ Ceda e saia ♪ 2340 01:42:15,825 --> 01:42:18,654 ♪ Nós ressuscitamos na morte ♪ 2341 01:42:18,697 --> 01:42:20,221 ♪ Nós nos levantamos ♪ 2342 01:42:20,264 --> 01:42:22,223 ♪ Na morte ♪ 2343 01:42:25,051 --> 01:42:27,663 ♪ Ceda e saia ♪ 2344 01:42:27,706 --> 01:42:30,666 ♪ Nós ressuscitamos na morte ♪ 2345 01:42:30,709 --> 01:42:32,233 ♪ Nós nos levantamos ♪ 2346 01:42:32,276 --> 01:42:34,148 ♪ Na morte ♪ 2347 01:42:37,107 --> 01:42:39,718 ♪ Ceda e saia ♪ 2348 01:42:39,762 --> 01:42:42,591 ♪ Nós ressuscitamos na morte ♪ 2349 01:42:42,634 --> 01:42:43,809 ♪ Nós ♪ 2350 01:42:43,853 --> 01:42:45,898 ♪ ♪ 2351 01:43:15,580 --> 01:43:17,626 ♪ ♪ 2352 01:43:22,761 --> 01:43:25,286 ♪ Ah, ah, ah, ah, ah ♪ 2353 01:43:25,329 --> 01:43:26,983 ♪ Ah, ah, ah, ah ♪ 2354 01:43:27,026 --> 01:43:28,419 ♪ Ah, ah ♪ 2355 01:43:28,463 --> 01:43:31,379 ♪ Ah, ah, ah, ah, ah, ah ♪ 2356 01:43:31,422 --> 01:43:32,945 ♪ Ah, ah, ah, ah ♪ 2357 01:43:32,989 --> 01:43:34,382 ♪ Ah, ah ♪ 2358 01:43:34,425 --> 01:43:37,036 ♪ Ah, ah, ah, ah, ah, ah ♪ 2359 01:43:37,080 --> 01:43:39,648 ♪ O que faremos agora? ♪ 2360 01:43:39,691 --> 01:43:42,651 ♪ Perdemos o controle por tentar ♪ 2361 01:43:42,694 --> 01:43:44,566 ♪ Nós perdemos isso ♪ 2362 01:43:44,609 --> 01:43:46,307 ♪ Para tentar ♪ 2363 01:43:46,350 --> 01:43:49,005 ♪ Ah, ah, ah, ah, ah, ah ♪ 2364 01:43:49,048 --> 01:43:51,703 ♪ O que faremos agora? ♪ 2365 01:43:51,747 --> 01:43:54,706 ♪ Perdemos o controle por tentar ♪ 2366 01:43:54,750 --> 01:43:56,578 ♪ Nós perdemos isso ♪ 2367 01:43:56,621 --> 01:43:58,406 ♪ Para tentar. ♪ 2368 01:43:58,449 --> 01:44:00,451 ♪ ♪ 2369 01:44:23,126 --> 01:44:24,475 [música termina]